is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Je kunt niet zeggen dat paus Leo XIV de komst van zijn eerste pauselijke brief, een zogeheten encycliek, ongemerkt voorbij heeft laten gaan. Alleen al vanwege de lengte van deze ‘brief’ – een halve roman – is tromgeroffel gerechtvaardigd. Maar meer nog vanwege de urgente inhoud: zorgen om kunstmatige intelligentie.
Voor wie deze encycliek nog niet heeft doorgeakkerd: Leo XIV richt zich in zijn Magnifica Humanitas (Schitterende Mensheid) op de razendsnelle ontwikkeling van AI en de bijbehorende macht van de techbedrijven. Specifiek maakt hij zich zorgen over autonome wapens, als hij benadrukt dat technologie die geweld mogelijk maakt zonder de vijand in de ogen te kijken, de morele drempel van oorlogsvoering gevaarlijk verlaagt.
Verder bekritiseert hij de messiaanse dromen van Silicon Valley, waar AI wordt gezien als iets goddelijks of als nieuwe religie. Zijn boodschap: doe het rustiger aan, stel de mens centraal, en onthoud dat machines geen goden zijn.
Het zijn terechte observaties. Toen iemand een keer aan Ray Kurzweil, auteur van de bestseller De singulariteit voorbij, vroeg of God bestaat, antwoordde de futurist en uitvinder: ‘Nog niet.’
Inderdaad, nóg niet. De mens is hard bezig ‘God’ op synthetische wijze op te wekken. Natuurkundige Max Tegmark liet zich ooit ontvallen: ‘Het is vanaf het begin de heilige graal geweest: het maken van AI die in alles beter is dan wij. We maken in feite een god.’
Het is een gedachte die opvallend vaak opduikt in die kringen. Ook Nobelprijswinnaar Geoffrey Hinton heeft het over AI als ‘godachtig’, terwijl Anthony Levandowski (ex-Google) een kerk oprichtte om AI-godheid te aanbidden.
De parallellen tussen de AI-industrie en de kerk zijn opvallend groot. De methodes verschillen, maar in de basis is hun belofte gelijk: verlossing en transcendentie voorbij het hier en nu.
Zou het kunnen dat Leo gewoon marktaandeel aan het verdedigen is tegen deze nieuwe religie, zoals The New York Times vermoedt? Hij doet dat trouwens op een verdomd slimme manier. Zo citeert hij zelfs Gandalf uit In de Ban van de Ring om zijn punt te maken dat het er niet om gaat om de wereld te beheersen, iets wat de techleiders volgens hem wel willen.
De verwijzing naar het meesterwerk van J.R.R. Tolkien is goed gekozen. Tolkien is ook een inspiratiebron voor bijvoorbeeld Peter Thiel. Defensie- en databedrijven als Palantir en Anduril zijn zelfs letterlijk naar concepten uit Tolkiens wereld vernoemd. Via Tolkien lijkt de paus dit soort bedrijven aan te spreken op hun rol in de wapenwedloop.
Onder de streep is de grote vraag of ze zich in Silicon Valley iets zullen aantrekken van de pauselijke brief. Die kans is vrij klein, al was een medeoprichter van Anthropic aandachtig toeschouwer bij de presentatie van de encycliek. Voor het overige dendert de AI-industrie gewoon door. Een eventuele correctie zal niet van de paus komen, maar van de beurs.
Geselecteerd door de redactie
Source: Volkskrant