is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
We leven nog, constateer ik na een twee weken durende hypecyclus vol apocalyptische verhalen over superslimme AI die de mensheid zal wegvagen.
Een van de invloedrijkste denkers over deze zogenaamde existentiële risico’s van AI is de onvermoeibare onheilsprofeet Eliezer Yudkowsky, schrijver van het boek Als iemand dit bouwt, gaat iedereen dood. Met ‘dit’ bedoelt hij AI.
Yudkowsky vindt een (vooralsnog hypothetische, zeg ik er nadrukkelijk bij) machine met bovenmenselijke intelligentie slecht nieuws voor de mens. Zo’n machine kan doelen nastreven die catastrofaal kunnen uitpakken.
Niet omdat die superintelligente machine ons haat, maar uit onverschilligheid: ‘De AI haat je niet, noch houdt hij van je, maar je bent gemaakt van atomen die hij voor iets anders kan gebruiken.’ Vergelijk het met een wegenbouwer die zonder dat hij het doorheeft een mierenhoop asfalteert. Waarbij wij de mierenkolonie zijn.
Het zijn interessante gedachte-experimenten, maar pure sciencefiction. Dat zegt bijvoorbeeld ook AI-onderzoeker Andrew Ng, oprichter van Google Brain: ‘Ik zie geen toename in het risico op uitsterven van de mensheid door AI in vergelijking met een paar maanden geleden.’
De theorieën hierover blijven volgens hem hangen in dezelfde ‘fantastische, sciencefictionachtige scenario’s’. Ng spreekt van een ‘georkestreerde pr-campagne’ van de AI-industrie. Misschien herinnert u het zich nog: AI-bedrijf Anthropic sprak onlangs van een risico van 10 procent op totale uitsterving.
Laten we het over de echte gevaren van AI hebben, want die zijn er volop. Het is jammer dat het door het AI-bedrijven aangezwengelde en door de media gretig omarmde verhaal over existentiële risico’s de daadwerkelijke gevaren volledig overschaduwt. Ook de hackende AI-agents horen bij de echte gevaren. Ik schreef het al eerder: ze zorgen voor een flinke puinhoop, maar zullen de mensheid niet doen verdwijnen.
Een minstens zo sprekend voorbeeld van de risico’s kwam de afgelopen week voorbij. Dit voorjaar, midden in de oorlog met Iran, maakte een analist van de Amerikaanse speciale eenheden een inlichtingenrapport met hulp van een AI-chatbot.
De conclusie: een Chinees schip in het Midden-Oosten zou onderdelen voor een kernwapenprogramma vervoeren. Gewapende militairen maakten zich al klaar om aan boord te gaan, gevechtsvliegtuigen stegen op.
Pas op het laatste moment bekeek een functionaris het rapport nog eens goed. De chatbot had de lading verkeerd geïdentificeerd. Het door AI opgestelde rapport was ‘volkomen onjuist’, maar leidde wel bijna tot een oorlog, aldus een bron tegen CNN.
Het zijn precies dit soort voorvallen waarvoor we bang moeten zijn. AI-bedrijven ontwerpen producten die ongeschikt zijn voor de toepassingen waarvoor we ze gebruiken, betoogde informaticus Ilyaz Nasrullah vorige week nog in de Volkskrant.
Voor een ramp heb je geen superintelligente machine nodig. Mensen die blind vertrouwen op systemen die zij voor superintelligent houden, volstaan.
Geselecteerd door de redactie
Source: Volkskrant