Kunstmatige intelligentie gaat alle problemen oplossen én AI gaat de mensheid vernietigen. Ilyaz Nasrullah moet van beide opgeklopte marketingverhalen niets hebben. De informaticus schreef een nuchter boek over AI. ‘Nee, AI ís niet intelligent.’
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
AI is niet intelligent of creatief. AI handelt niet autonoom. Ook heeft AI geen begrip, wil of intentie. En het goede nieuws: AI heeft al helemaal geen plan om de mensheid uit te roeien.
Informaticus en publicist Ilyaz Nasrullah reageert hiermee op alle onheilstijdingen van de afgelopen dagen waarin het – niet voor het eerst – gaat over de vraag wat de kans is dat AI de hele mensheid wegvaagt. Minimaal 10 procent, volgens een hoge veiligheidsbaas van Anthropic.
Het is hetzelfde Anthropic dat het AI-gereedschap maakt dat volgens zijn bazen kan leiden tot onze ondergang. Ook de concurrentie bedient zich al vele jaren van hetzelfde soort vreemde doom-marketing: onze producten zijn zo intelligent dat ze de mens voorbijstreven.
Eigenlijk wil Ilyaz Nasrullah de term kunstmatige intelligentie helemaal niet gebruiken, maar ook hij ontkomt er niet aan. Voor hem ligt zijn boek, vers van de pers. De titel luidt: Dit is AI. Met daarachter de toevoeging: De valse belofte van kunstmatige intelligentie.
Wie Nasrullah een beetje kent, zal niet verrast zijn door deze insteek. In podcasts, lezingen en columns trekt hij onvermoeibaar ten strijde tegen alles wat volgens hem mis is met de AI-industrie met al zijn beloften én extreme waarschuwingen. Een voor een ontmantelt hij de belangrijkste mythen.
Waarom hamert u zo op het juiste taalgebruik rondom AI?
‘Er is een aantal dingen die mensen zijn gaan geloven over AI-systemen. Dat ze slim zijn bijvoorbeeld, of objectief, of zelfs dat ze empathisch zijn. Die aannamen hangen enorm samen met het taalgebruik dat de commerciële AI-bedrijven hanteren en dat gretig door het publiek wordt overgenomen.’
Zelf schrijft u ontnuchterend over AI. Zo is ChatGPT gewoon een ‘contentgenerator’. Het is een minder aantrekkelijk verhaal vrees ik ...
‘Daar ben ik het wel mee eens. De term AI is een beetje als het woord god. Iedereen heeft er een ander beeld bij. Dat laat ruimte voor veel fantasie en invullingen die weinig te maken hebben met de praktijk. De AI-bedrijven gebruiken het gebrek aan kennis vervolgens voor hun marketing.
‘Ook het verhaal dat we nu echt op het punt van een grote doorbraak staan en we ons richting een prachtige toekomst bewegen, is aantrekkelijk. Maar tegelijk is de kloof tussen alle beloften over AI-gereedschap als een duizenddingendoekje en wat mensen in hun werk ervaren vrij groot. AI maakt enorm veel fouten.’
Steeds minder toch? En de belofte is ook dat die fouten binnenkort tot het verleden behoren.
Lacht: ‘Ja, dat horen we al vanaf het allervroegste begin over AI. Ik zie dat de kloof groter wordt omdat de beloften alsmaar verder worden opgeblazen.’
Wat mij verbaast, is dat AI-bedrijven steevast waarschuwen voor de gevaren van hun systemen en zelfs bijna triomfantelijk voorspellen dat AI ons allemaal zou kunnen vernietigen. Is dat echt alleen maar marketing?
‘Ik sluit absoluut niet uit dat mensen uit de AI-industrie, zoals laatst die onderzoeker die ontslag nam bij Anthropic, echt geloven dat hun producten een gevaar zijn. Mijn punt is: wat is hun onderbouwing daarvan? Wat is het bewijs? Rutger Bregman vindt dit een blinde vlek van links. Links zou de gevaren van AI ontkennen, zoals rechts het klimaatprobleem ontkent. Die vergelijking gaat mank: onder wetenschappers is er geen enkele consensus over de existentiële gevaren van AI. Die existentiële dreiging is een bizar broodjeaapverhaal dat wordt aangehangen door een klein, uitgesproken groepje mensen in de AI-industrie.’
Ik hoorde onlangs AI-pionier en Nobelprijswinnaar Geoffrey Hinton ook weer waarschuwen voor die gevaren. Zouden we hem niet serieus moeten nemen?
‘Als ik heel eerlijk ben, denk ik dat hij gewoon een Oppenheimer-complex heeft. Dat hij denkt dat hij een soort atoombom heeft uitgevonden. Ik kan dat niet serieus nemen, als je kijkt naar wat die technologie nou in essentie doet: statistische verbanden uitrekenen tussen datapunten.’
Nasrullah studeerde in de jaren nul technische informatica aan de TU Delft. Hij volgde daar ook de studie kennistechnologie, een naam die toen gangbaar was voor wat nu AI is. ‘De term AI was toen besmet’, zegt Nasrullah. Het vakgebied bevond zich destijds nog in een ‘AI-winter’: het pad richting AI leek te zijn doodgelopen en niemand durfde erin te investeren.
Tijdens zijn studie ging het Nasrullah nooit specifiek om AI. ‘Ik was primair geïnteresseerd in de vraag hoe systemen de mens beïnvloeden.’ Ofwel: hoe ontwerp je het beste systeem, rekening houdend met de mens? De student van toen had nooit kunnen bevroeden dat AI vijftien jaar later in de markt zou worden gezet als een omnipotente probleemoplosser. En daar gaat het nu net mis, betoogt hij.
‘Ik ken mensen die vinden dat AI-systemen volledig nutteloos zijn. Ik hoor daar niet bij. Het probleem is dat de AI-bedrijven denken dat AI overal geschikt voor is. Met alle risico’s van dien. Het wordt tijd dat ze aansprakelijk worden gesteld voor alle fouten die hun producten maken.’
Onlangs nog kwam OpenAI met het nieuws dat zijn AI-modellen een groot wiskundeprobleem hadden opgelost. Dat is toch indrukwekkend?
‘Dat is inderdaad precies het soort toepassing waar AI in uitblinkt. Ik noem dat de schothagelbenadering, waarbij het niet uitmaakt dat het merendeel van de pogingen mislukt, zolang er maar één schot raak is. AI heeft het voordeel van de schaal; door veel mogelijke oplossingen te genereren, kom je uiteindelijk bij het juiste resultaat. Maar dat heeft niets te maken met een diep begrip van de wiskunde.’
Nasrullah had zijn boek net klaar toen iedereen in rep en roer raakte over de AI-agents van OpenAI die de site van Hugging Face wisten te hacken. Met termen als ‘losgebroken agents’, ‘geheime AI-beschavingen’ en ‘valsspelen’ koren op de molen van Nasrullah, die zich genoodzaakt voelde een blog te schrijven waarin hij zo feitelijk mogelijk beschrijft wat er zich wél heeft afgespeeld.
Dat geeft een totaal ander beeld: de agents deden gewoon exact wat hun was opgedragen door OpenAI, inclusief het samenwerken.
Ondertussen zorgen die agents wel voor grote chaos. Ze zullen alleen maar meer gaan hacken. Zouden ze niet gewoon verboden moeten worden?
‘Misschien wel, maar dan om de goede reden. Niet omdat AI nu bewustzijn krijgt of zoiets, maar omdat de systemen voor problemen zorgen. De AI-bedrijven ontwerpen producten die ongeschikt zijn voor waarvoor we ze gebruiken. Zij waarschuwen voor hun systemen, ik voor de bedrijven. Dat is echt een verschil.’
Mijn tijdlijnen op social media staan telkens vol van enthousiaste verhalen over de laatste nieuwe AI-modellen. Bent u daar niet vatbaar voor?
‘Als je één keer zo’n promofilmpje hebt gezien, ken je ze allemaal. Natuurlijk is het verleidelijk: één programma dat al je werk kan overnemen. Bedrijven als OpenAI verkopen efficiëntie en gemakzucht. Dat doen ze goed. Je hoeft niet meer te schrijven, niet meer te denken. Je hoeft helemaal niets meer. Het is de magnetronmaaltijd voor alles.
‘Het meest schrijnende voorbeeld is de topman van AI-muziekbedrijf Suno, die in een podcast zei dat de meeste mensen het helemaal niet leuk vinden om muziek te maken. Dat is zo ongelofelijk raar, want als er nou iets is waar mensen van genieten, is het dat wel. Het getuigt van een enorm arm mens- en wereldbeeld.’
Wat zet u daar tegenover?
‘Allereerst moet je af van de aanname dat onze samenleving werkelijk om efficiëntie, snelheid en gemak draait. Het lijkt wel een religie. Ik geloof in de potentie van de mens en ik ben bang dat we elkaar aan het verliezen zijn in het AI-tijdperk. Wij zijn geen biologische computers. We hebben elkaar nodig en zoeken warmte en genegenheid en we willen beter worden in de dingen die we belangrijk vinden.’
Informaticus Joseph Weizenbaum schreef al in de jaren zeventig dat er taken zijn die wij een computer niet moeten laten doen, los van de vraag of ze dat kunnen of niet. Als u één taak zou mogen weghalen, welke zou dat zijn?
‘Alles waarbij we menselijk contact vervangen door chatbots. Mensen die ruzie hebben met hun partner en dan aan ChatGPT vragen wat ze moeten doen; vreselijk. Of een rouwbericht laten schrijven door AI. Daar verliezen we echt iets.’
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant