is natuurkundige en oud-politicus.
De voorlaatste keer dat wetenschappers een technologie ontwikkelden die de gehele mensheid kon wegvagen, stortten de toenmalige grootmachten zich in eerste instantie ook in een blinde wapenwedloop om de ander een stap voor te zijn, om zich pas later, veel later, te realiseren dat het pad naar zelfvernietiging verlaten diende te worden. Ook toen waarschuwden de bedenkers van de massavernietingswapens zelf als eersten voor het monster dat ze hadden gecreëerd. Ook toen werden de eerste politieke oproepen om het gevaar te temperen genegeerd.
Het was Robert Oppenheimer die al enkele maanden na de verwoesting van Hiroshima en Nagasaki in zijn afscheidstoespraak over het Manhattan-project, het Amerikaanse atoomwapenprogramma, waarschuwde voor de vergissing om dit wapen te zien als ‘gewoon iets effectiever dan andere bommen’.
Oppenheimer kende als geen ander de gruwelijke kracht van de atoombom en hield, in een bij zijn genie passende vooruitziende blik, zijn publiek voor dat alleen een Vereniging van Naties met afspraken totale vernietiging zou kunnen voorkomen.
Over onze columns
Columnisten hebben de vrijheid hun mening te geven en hoeven zich niet te houden aan de journalistieke regels voor objectiviteit. Lees hier onze richtlijnen.
Negen lange jaren later was de wereld echter nog altijd verwikkeld in een op hol slaande nucleaire wedloop. Pas nadat in maart 1954 de grootste Amerikaanse atoombom explodeerde met een veel grotere kracht én nucleaire fall-out dan bedoeld – duizend maal sterker dan de bom die Hiroshima had weggevaagd – kreeg India’s pleidooi voor het stopzetten van deze kernproeven internationale bijval.
De nucleaire machten wilden echter eerst hun eigen waterstofbom ontwikkelen; het testverbod liet nog lang op zich wachten. En pas in 1970 kreeg een Ierse oproep tot een verdrag tegen de verspreiding van kernwapens navolging. Intussen stond en staat er nog altijd een hoeveelheid kernkoppen op elkaar gericht waarmee we onze planeet meerdere keren onbewoonbaar kunnen maken.
Ik moest aan deze geschiedenis denken toen Laurens Dassen tijdens de Algemene Politieke Beschouwingen door zijn collega’s werd uitgelachen in de Tweede Kamer nadat hij voor de derde keer aandacht had gevraagd voor de existentiële dreigingen van AI. Een moment waarvoor de politiek zich collectief moet schamen. Hoe zullen we later terugkijken op het moment dat we 0,3 procent koopkrachtverbetering belangrijker vonden dan het beteugelen van de meest disruptieve technologie die de mensheid ooit heeft ontwikkeld?
Net als bij kernwapens zijn het de wetenschappers zelf die als eersten indringend waarschuwen voor wat ze zelf gemaakt hebben. In 2023, kort na de introductie van het spectaculaire AI-model ChatGPT-4, schreven zij al: ‘Het beheersen van de risico’s op uitsterving door AI zou een wereldwijde prioriteit moeten zijn’, en trokken de omineuze vergelijking met een kernoorlog.
Beleidsmakers wisten nauwelijks wat te doen met de pijlsnelle ontwikkelingen. Als Europees ambtenaar kreeg ik in de zomer van 2023 bezoek van zeer bezorgde wetenschappers, die – letterlijk in tranen – ons opriepen tot snel ingrijpen. Ik verried mijn totale onbegrip van de werkelijke kracht van AI toen ik me onbeholpen afvroeg of je bij calamiteiten niet gewoon de stekker uit het apparaat kon trekken. Zoals de politici zich destijds ook niets konden voorstellen bij een bom die krachtiger was dan 15 miljard (!) kilo dynamiet.
Een groter probleem dan mijn onwetendheid was het feit dat Europa bijna letterlijk in het luchtledige reguleerde met zijn AI-wet uit 2023. Ons continent kende geen AI-ontwikkeling van enige importantie.
Inmiddels zijn we alweer drie jaar verder en zijn de nieuwe modellen zo krachtig dat ze inbreken in de computers van hun eigen makers. Die schrikken zich rot van de intelligentie die ze hebben losgelaten. Zoals in 1954 de uit de hand gelopen atoomproef een tweede schokgolf veroorzaakte, leidt deze ontsporing van AI tot een hernieuwde roep om internationale actie ter beteugeling. Mogelijkheden daartoe bestaan en lijken sterk op wat er indertijd werd opgetuigd rondom nucleaire anti-proliferatie: restricties op de cruciale digitale infrastructuur die nodig is voor het verder ontwikkelen van AI, afspraken over gecontroleerde toepassing en een internationaal inspectieregime.
Net als toen zullen de VS en China liever de wedloop voortzetten dan zich te onderwerpen aan beperkingen. Hier ligt dus een taak voor Europa, Canada en andere middelmachten, zoals indertijd India en Ierland het voortouw namen. Degene die ons in het parlement daartoe aanspoort, verdient serieuze aandacht en navolging, geen hoon.
Geselecteerd door de redactie
Source: Volkskrant