In zijn eerste pauselijke brief, een zogeheten encycliek, pleitte Leo XIV er maandag bij regeringsleiders voor om de ontwikkeling van AI-systemen ‘te vertragen’. Anders dan gebruikelijk presenteerde de paus het document zelf in een speciale bijeenkomst in het Vaticaan.
zijn correspondent in Italië en nieuwsverslaggever van de Volkskrant.
AI is het hoofdthema van de encycliek ‘Magnifica Humanitas’ (de grootsheid van de mensheid). De paus is huiverig voor de ontwikkeling van de technologie omdat de systemen volgens hem desinformatie verspreiden, conflicten aanwakkeren en het risico met zich meebrengen dat de wereld op ‘een pad van eindeloze oorlog’ terechtkomt. Overheden moeten volgens de paus daarom ‘robuuste wettelijke kaders’ tot stand brengen.
Dat is onder meer nodig om de rechten van werknemers te beschermen, stelt de paus. Hij vreest dat de positie van werkenden in gevaar komt als bedrijven vrij zijn om te doen wat ze willen met AI-systemen. Experts stellen al langer dat AI in bepaalde sectoren de taken van mensen kan gaan overnemen.
Al uit de keuze voor de naam Leo viel op te maken dat de nieuwe paus zich actief in zou zetten voor de arbeidersklasse. Zijn voorganger – Leo XIII – werd vooral bekend door zijn strijd voor werklieden die er door de industriële revolutie berooid vanaf waren gekomen.
Leo XIII stond tussen 1878 en 1903 aan het hoofd van de katholieke kerk. Ook hij gebruikte een encycliek om zijn zorgen te uiten. Dat document wordt beschouwd als middel om het officiële standpunt van de kerk uiteen te zetten. Sommige pausen schreven er tientallen, anderen kwamen niet verder dan een handvol.
Leo XIII publiceerde zijn bekendste werk in 1891. In Rerum Novarum (Over nieuwe zaken) bepleitte hij rechtvaardige lonen, gezonde werkomstandigheden en meer solidariteit met de zwakkeren. Van het kapitalisme en het marxistisch socialisme moest hij niets weten, het werk wordt gezien als de geboorte van de sociale leer van de kerk.
Volgens de huidige paus staat de wereld momenteel weer voor een soortgelijke verandering: de digitale revolutie. Al eerder zei hij dat kunstmatige intelligentie ‘de menselijke besluitvorming niet mag vervangen’. Hij zei te vrezen voor ‘extreem rijke mensen die investeren in kunstmatige intelligentie’ en ‘de waarde van menselijke wezens en van de mensheid totaal negeren’.
Het is geen toeval dat Leo XIV zijn allereerste encycliek, net als zijn naamgenoot 135 jaar eerder, op 15 mei ondertekende. De presentatie ervan verliep maandag echter volledig anders dan gebruikelijk. De paus openbaarde het negentig pagina’s tellende document zelf tijdens een bijeenkomst waarbij opvallend genoeg ook de medeoprichter van AI-bedrijf Anthropic (bekend van chatbot Claude) aanwezig was.
Anthropic kreeg het aan de stok met de regering-Trump, toen het weigerde taalmodellen beschikbaar te stellen voor autonome wapens en binnenlandse surveillance. Het Pentagon reageerde furieus en zette de Amerikaanse onderneming op de zwarte lijst, tussen bedrijven uit China en Rusland.
Desondanks worden systemen van Anthropic ook gebruikt door het Amerikaanse leger, onder meer in de oorlog tegen Iran om doelwitten te bepalen. Ook daar is de paus zeer kritisch over in zijn encycliek: ‘De mogelijkheid om autonome wapensystemen in te zetten maakt oorlogsvoering makkelijker uitvoerbaar en minder afhankelijk van menselijke controle. De ontwikkeling en het gebruik van AI in oorlogsvoering moeten gepaard gaan met de meest rigoreuze ethische terughoudendheid.’
Het Vaticaan sprak zich al eerder uit over de keerzijde van AI. Paus Franciscus hield in 2024 een kritische speech voor leiders van de G7, zijn opvolger zet die lijn nu voort. Of Leo’s boodschap net zoveel verandering teweegbrengt als die van zijn naamgenoot in 1891 moet nog blijken, maar dat zijn woorden een stuk sneller de wereld over zullen gaan staat vast.
Geselecteerd door de redactie
Source: Volkskrant