Filosoof Nick Bostrom werd beroemd met zijn vroege waarschuwingen voor de risico’s van AI. Inmiddels klinkt hij een stuk positiever. Al kan de technologische ontwikkeling wel ongemakkelijke gevolgen hebben vanuit ons huidige perspectief.
Filosoof Nick Bostrom werd beroemd met zijn vroege waarschuwingen voor de risico’s van AI. Inmiddels klinkt hij een stuk positiever. Al kan de technologische ontwikkeling wel ongemakkelijke gevolgen hebben vanuit ons huidige perspectief.
De Zweedse filosoof Nick Bostrom is in de wereld van techliefhebbers en AI-volgers al jaren een intellectuele rockster. Zijn boek Superintelligence uit 2014 werd een wereldwijde bestseller, in tientallen talen vertaald.
Toch lijkt Bostrom te vinden dat de wereld die zijn boeken gretig afnam, hem desondanks maar slecht begrijpt. Waar hij in het dagelijks leven speculeert over de vraag of we in een simulatie leven, of over wat er gebeurt wanneer kunstmatige breinen slimmer worden dan de menselijke tegenhangers, kent de buitenwacht hem bijvoorbeeld vooral van een beroemde doemscenario rond paperclips.
In dat gedachte-experiment krijgt AI de opdracht om zoveel mogelijk paperclips te maken. In de drang die opdracht zo goed mogelijk uit te voeren, gebruikt die AI uiteindelijk elke natuurlijke grondstof, inclusief de deeltjes waaruit wij, de planeet en zelfs het gehele heelal bestaan. Dat idee werd een pakkend symbool voor de onverwachte existentiële gevaren die kunstmatige intelligenties zouden kunnen opleveren.
Lang voordat de introductie van ChatGPT de wereld op z’n kop zette, werd Bostrom daardoor het gezicht van de gevaren van AI. ‘Het is het waard om Superintelligence van Bostrom te lezen. We moeten erg oppassen met AI. In potentie gevaarlijker dan kernbommen’, schreef Elon Musk bijvoorbeeld kort na verschijning Bostroms besteller. Sam Altman van OpenAI noemde het boek een jaar later ‘het beste dat ik ken over dit onderwerp, het is het lezen waard.’
Het tekent de invloed van Bostroms ideeën onder de miljardairs uit Silicon Valley die bouwen aan de AI waarvoor hij waarschuwt. Die waarschuwingen lijken actueler dan ooit, maar daar denkt hij zelf dus anders over. ‘Soms zijn mensen die alleen mijn oude werk hebben gelezen zich slechts bewust van mijn gedachten over de risico’s. En dus zien ze me als een soort AI-doomer, als iemand die anti-AI is’, zegt de Zweed via videoverbinding, met haperende, voorzichtige formuleringen.
In een later boek, het in 2024 verschenen Deep Utopia – Life and Meaning in a Solved World, benadrukt u meer de positieve kanten van AI. Vanwaar die ommezwaai?
‘Die twee kanten van mijn denken hebben altijd al bestaan, al vanaf de jaren negentig, toen ik hierover begon na te denken. Superintelligence verscheen in 2014. Destijds leek het me urgenter om aandacht te vragen voor de risico’s, die werden verwaarloosd. Er was niemand die de komst van superintelligentie serieus nam. Daarna is dat behoorlijk veranderd. Inmiddels is er veel discussie over AI-risico’s, maar het gesprek is doorgeslagen naar de andere kant.’
Een actueel voorbeeld daarvan werd eerder deze maand nog geleverd door Anthropic-topman Dario Amodei. In een essay waarschuwde hij voor het te hoge tempo waarin de AI-ontwikkelingen plaatsvinden, met alle veiligheidsrisico’s van dien. De AI-bedrijven moeten vertragen, aldus Amodei, anders lopen we het risico op onder meer cyberaanvallen, bioterrorisme en ernstige economische ontwrichting.
Concurrenten Elon Musk (xAI) en Sam Altman (OpenAI) steunden Amodei, gevolgd door politici als Bernie Sanders, die vinden dat de politiek moet ingrijpen.
Vindt u die aandacht voor de risico’s van AI overdreven?
‘Het tempo van het anti-AI-discours gaat omhoog, zeker in mijn kringen zie ik veel van mijn vrienden en collega’s lobbyen om regels op te werpen, om de ontwikkeling van AI af te remmen, met vooral aandacht voor alle nadelen en risico’s. In de VS liggen er nu voorstellen voor beleid in verschillende staten om de boel af te remmen.’
Bostrom vindt het maar overdreven, prematuur. ‘Er is nog geen echte impact geweest op de arbeidsmarkt, toch?’, vraagt hij. ‘Er is geen grootschalig incident geweest met miljoenen doden.’
Waarom dan nú al zo vol op het anti-AI-orgel, terwijl die technologie in zijn ogen ook veel voordelen kan hebben? ‘Als dit nu al het gesprek is, dan kun je je wel voorstellen hoe het over een paar jaar is, als er misschien zo’n 30 procent werkloosheid is onder witteboordwerkers, die dan allemaal tijd omhanden hebben en zich benadeeld voelen omdat ze dachten dat ze recht hadden op een hoge status en een positie waarin je veel geld verdient.’
In de VS ziet Bostrom daarom nu van zeer links tot zeer rechts, van Sanders tot Steve Bannon, een anti-AI-sentiment. Om nog maar te zwijgen van Europa. ‘Europese elites en intellectuelen nemen AI niet serieus, niet op de manier waarop veel mensen in Silicon Valley dat doen, of in Washington’, aldus Bostrom. Het idee dat AI intelligenter wordt dan de mens, is in Europa ‘nog niet ingedaald’, stelt hij.
Als AI zo intelligent wordt, ligt er een glanzende toekomst op ons te wachten, schrijft Bostrom in Deep Utopia, al kan dat ook ongemakkelijke gevolgen hebben vanuit ons huidige perspectief. Zo werpt de filosoof op zeker moment de vraag op of het opvoeden van kinderen in zo’n toekomst niet beter kan worden overgelaten aan perfecte robot-opvoeders.
‘Je zou ervoor kunnen kiezen om zelf met je kind te spelen; maar door dat te doen, zou je egoïstisch je eigen plezier prioriteit geven ten koste van het welzijn en de ontwikkeling van het kind’, schrijft hij onder meer.
Dat klinkt niet heel utopisch…
‘Ik probeer geen utopisch beeld te verkopen aan de lezer. Technologie, niet alleen AI, helpt ons om meer te doen met minder, toch? Als je dat doortrekt in het extreme, dan kunnen we straks alles doen wat we willen. Dat leidt uiteindelijk tot een opgeloste wereld, waarin geen problemen meer bestaan. En als er wel problemen bestaan, dan leidt dat tot werk dat machines beter kunnen doen.’
Is een wereld zonder problemen niet heel saai? Zou u er zelf in willen leven?
‘Ik denk het wel. Verveling kun je in een technologisch volwassen wereld uitschakelen. Je zou de mogelijkheid hebben, als je dat wilt, om een soort medicijn te nemen waardoor het leven heel spannend en levendig aanvoelt. Dus daar kunnen we een vinkje achter zetten.’
Bostrom droomt al langer van een digitalere toekomst. Eentje waarin je niet beperkt bent door de tekortkomingen van je eigen lichaam, of zelfs van de fysieke wereld. Je kunt je brein bijvoorbeeld uploaden naar een computer en daar zelf bepalen wat je beleeft. Het zijn het soort ideeën waar ook veel van Bostroms lezers in geloven, inclusief de miljardairs uit Silicon Valley die zo’n toekomst werkelijkheid willen maken.
‘Het gemiddelde menselijke leven bestaat nu uit forensen naar kantoor en daar elke dag hetzelfde doen’, zegt hij smalend. In zijn toekomstvisioenen gaat dat heel anders. ‘Straks kun je een leven leiden waar je intense liefde en passie voelt en op ontdekkingstocht kunt gaan naar de Amazone. Allemaal dingen die je laten voelen dat je leeft.’
Maar dat is dan niet echt. Ben je jezelf in zo’n wereld niet aan het voorliegen?
‘Als die toekomst arriveert, sta je aan de poort en hoef je alleen nog maar een kaartje te kopen om deel te nemen aan het feest. Als iedereen die ik ken, al mijn vrienden, samen een VR-set opzet en dan samen dingen doet in die virtuele wereld, zodat je interacties echt zijn, dan maakt dat een groot verschil.’
Zijn mensen in zo’n toekomst nog wel mensen?
‘Ik denk dat er een rijkere set levensvormen mogelijk is. Naast traditionele mensen die rondlopen op twee benen zijn er straks misschien andere mensen die zijn veranderd. Er zijn misschien digitale breinen die eigenlijk AI’s zijn, of geüploade mensen, in allerlei vormen en formaten, van superbreinen ter grootte van planeten tot veel kleinere varianten.
‘Misschien krijg je wel een iets beter geheugen, of een opgefrist lichaam waarmee je je sterker voelt en hernieuwd enthousiasme krijgt. Dan leef je misschien een jaar of duizend totdat je alles verkend hebt dat je met dat niveau van cognitie kunt bereiken. En dan zit je wellicht op een pad waarmee je op de heel lange termijn iets heel anders kunt worden dan je nu bent.’
Menselijkheid zoals we die nu kennen is toch ook iets om te koesteren?
‘Ik denk dat er altijd wat mensen zullen zijn die het op de oude manier willen doen, die de traditionele manier van een mensenleven willen ervaren. De vraag is of we daarnaar moeten streven of dat het ook oké is als dat verdwijnt en er in de verre toekomst alleen digitale alternatieven overblijven. Ik bedoel: uiteindelijk verdwijnt de mensheid sowieso, in de hittedood van het heelal.’
Bostrom – die regelmatig een slok koffie neemt uit een gigantische mok – laat er geen misverstand over bestaan waar hij zichzelf in dit toekomstscenario ziet: nadrukkelijk níét in het Asterix-dorpje met wat hij ‘traditionalisten’ noemt. Uit zichzelf begint hij over de ‘ethisch lastige’ vraagstukken die hiermee onvermijdelijk opdoemen.
Misschien is het prima, mijmert de filosoof, als dat soort gemeenschappen gewoon een tijdje hun ‘eigen ding’ doen, terwijl de met steeds meer technologie verbeterde transhumanistische mengvormen zich in rap tempo van de oorspronkelijke biologische mens wegbewegen.
Hij redeneert daarbij steevast vanuit het belang van de nieuwe mens. Want wat als de traditionalisten alsnog willen meedoen met de ‘supergeavanceerde beschavingen’ die ze zien? Kan dat zomaar? En heb je als geüpgradede mens niet de plicht in te grijpen, wanneer je ziet dat dit soort ouderwetse gemeenschappen er ethisch bedenkelijke praktijken op nahouden? ‘Stel dat er een traditionele vorm van slavernij ontstaat, moeten we dat dan respecteren of, als het erg genoeg wordt, ingrijpen?’
In uw boek speelt dat idee van transhumanisme, waarin mensen zichzelf moeten verbeteren met technologie, een grote rol. Leidt dat niet tot ongelijkheid? Want wie kan en mag zich straks verbeteren?
‘Ik denk dat iedereen de mogelijkheid moet krijgen om zelf te kiezen of ze gebruik willen maken van technologieën voor gezondheid en andere manieren van zelfverbetering. Ik hoop dat het daardoor uiteindelijk goedkoop genoeg wordt voor iedereen. In een eerder stadium zullen sommige mensen eerder toegang hebben, maar dat zien we met alle gezondheidszorg. We hebben reden genoeg om machines te maken die het menselijk leven verlengen. We streven naar een wereld waarin mensen gezonder zijn en niet hoeven te sterven wanneer ze dat niet willen.’
Betekent dat dat mensen onsterfelijk worden? Zou u dat willen?
‘Ik zou dat besluit liever niet nu nemen, maar graag de optie behouden en het per jaar bekijken. Als een extra jaar leven goed voelt, dan zou ik graag aan het volgende jaar beginnen. We kunnen onmogelijk weten hoe het is om miljoenen of triljoenen jaren te leven.’
Laten we terugkeren naar wat u zei over ‘Europese intellectuelen’. Volgens u nemen zij AI onvoldoende serieus. U werkt en leeft in Europa. Steekt dat u?
‘In Europa heeft zich een intellectueel probleem voorgedaan. Ik heb het gevoel dat men niet inziet wat er echt gebeurt. Dat leidt ertoe dat Europa geheel buiten de AI-race valt, zonder mogelijkheden om te concurreren op wereldschaal. Op een bedrijf als ASML na. De wortel daarvan ligt in iets filosofisch, iets wat ik historisch niet helemaal kan diagnosticeren, maar ik denk dat men misschien naar de verkeerde mensen luistert.’
Overweegt u ook nog de mogelijkheid dat Europese intellectuelen gelijk hebben met hun terughoudendheid over AI?
‘Vooruit, dat is mogelijk. Maar als dat zo is, komt het meer door toeval dan door inzicht.’
U wilt niet langer als AI-pessimist worden getypeerd. Hoe dan wel?
‘Als een bezorgde optimist.’
Wat voedt dan uw gevoel van optimisme?
‘Ik word optimistisch van de gedachte dat we in een opgeloste wereld al het lijden straks kunnen verlichten, niet alleen in de mensenwereld, maar ook in de dierenwereld, met de fabrieken van de bio-industrie, wat we doen met wezens die zwakker zijn dan wijzelf. Met dieren die elkaar levend opeten. Het is zo’n horrorshow. Ik denk dat het afscheid nemen van die negatieve kanten ons zou moeten laten dansen van opwinding.’
In 2023 publiceerde filosoof Nick Bostrom een publieke verontschuldiging voor een oude e-mail uit 1996. In die oude mail schreef hij het volgende:
‘Neem nu de zin ‘zwarten zijn dommer dan witten’. Ik hou van die zin en ik denk dat het waar is, maar onlangs ben ik gaan geloven dat ik niet veel mensen aan mijn zijde heb als ik het zo opschrijf.’ Ook gebruikte hij het n-woord.
‘Ik neem volledig afstand van deze walgelijke e-mail van 26 jaar geleden’, schreef hij drie jaar geleden. Hij benadrukt dat hij nooit het n-woord had moeten gebruiken, maar hij schrijft ook: ‘Zijn er genetische factoren die bijdragen aan verschillen in de cognitieve vermogens van groepen mensen? (...) Ik laat het aan anderen, met meer relevante kennis, om dat debat te voeren.’
Voor zijn critici is het duidelijk: Bostrom neemt tóch geen afstand van het onderliggende sentiment dat witte mensen slimmer zijn dan zwarte mensen.
‘Hij laat de mogelijkheid wijdopen dat er daadwerkelijk genetisch bepaalde cognitieve verschillen bestaan tussen groepen mensen (hier is geen bewijs voor)’, schreef onderzoeker Émile Torres, die Bostroms oude mail als eerste had gevonden. ‘Dit is zo goor, een lesje in non-verontschuldigingen’, reageerde hoogleraar taalwetenschap Emily Bender, coauteur van bestseller The AI Con, op sociale media.
Anno 2026 heeft de Zweedse filosoof nog altijd niet verduidelijkt waar hij staat. En dat terwijl vergelijkbare sentimenten over witte intellectuele superioriteit in academische kringen momenteel opnieuw aan vaart winnen. ‘Rassenrealisme’, zoals die stroming door aanhangers wordt genoemd, heeft veel aanhangers, ook in Europa, constateerde NRC bijvoorbeeld vorige maand nog in een analyse.
Het is dus een relevante vraag of een van Europa’s bekendste filosofen dat gedachtegoed onderstreept. Ook op onze vragen over zijn overtuigingen, waarbij Bostrom expliciet de kans krijgt om misvattingen over zijn standpunt uit de wereld te helpen, weigert hij in te gaan.
Opvallend genoeg besluit hij ongevraagd wél het gebruik van het n-woord toe te lichten, met een technisch-filosofische uitleg over het onderscheid tussen het ‘gebruik’ en het ‘noemen’ van een woord. Maar ook na herhaaldelijk aandringen gooit hij de deur dicht wanneer het gaat om de inhoud. ‘Ik denk dat ik die e-mail niet had moeten schrijven. Ik heb er afstand van genomen en ik wil er verder niets meer over zeggen’, zo kapt hij de vragen daarover af.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant