Waar blijft onze vitaliteit wanneer we dode machines voor ons laten denken, vraagt Rüdiger Safranski zich af. ‘Wat moeiteloos tot stand komt, vervliegt zonder een spoor na te laten.’
is economieredacteur van de Volkskrant. Hij schrijft over de financiële sector.
Een slordige driehonderdduizend jaar kostte het de mensheid om te leren schrijven, van de eerste homo sapiensen in Afrika tot de uitvinding van het spijkerschrift in Mesopotamië. Soms lijkt het dezer dagen alsof we diezelfde vaardigheid in slechts enkele jaren proberen te verleren.
Sinterklaasgedichten, liefdesbrieven, wetten, begrafenisredes, proefschriften, romans, Kamervragen: de opmars van ChatGPT, Claude en andere kunstmatige ghostwriters gaat aan geen enkel genre stilletjes voorbij. De Canadese politicus Bill Oliver haalde afgelopen zomer het wereldnieuws toen hij per ongeluk zijn AI-prompts voorlas tijdens een toespraak, en daarmee verried dat zijn betoog de pennenvrucht was van een chatbot.
Een gedenkrede over de Holocaust van Mario Voigt, minister-president van de Duitse deelstaat Thüringen, bleek grotendeels van AI-makelij, net als tientallen socialemediaberichten van de Nederlandse premier Rob Jetten, waaronder een over de Holocaust. Een 35-jarige Reddit-gebruiker beweerde onlangs zelfs door zijn bruid in de steek te zijn gelaten bij het altaar, toen ze tijdens de huwelijksceremonie ontdekte dat zijn trouwgelofte niet uit zijn hart kwam, maar uit ChatGPT.
‘In Duitse kerken ziet men zich tegenwoordig genoodzaakt om pastoors en dominees op het hart te binden dat ze hun zondagspreek niet door kunstmatige intelligentie laten schrijven’, zegt de Duitse filosoof en biograaf Rüdiger Safranski (1945) vol ongeloof in zijn boekenrijke huis in Badenweiler, een kuuroord iets ten noorden van Zwitserland. Ruim zes op de tien Duitse zielenherders maken gebruik van de weliswaar zielloze, maar Bijbelvaste bots, toonde een enquête. ‘Stelt u zich eens voor: het woord Gods, verkondigd door AI!’, verzucht Safranski.
Een absurder teken des tijds is in zijn ogen bijna niet denkbaar: de leer van ‘de Vader, de Zoon en de Heilige Geest’, gepredikt door de ‘dode geest’ van een machine, zoals Safranski het noemt. Het illustreert de ‘roekeloze haast en blinde ijver’ waarmee mensen ‘als lemmingen’ achter de technologische vooruitgang aanhollen, schrijft Safranski in zijn boek Die vierte Kränkung, zojuist in het Nederlands verschenen als De vierde omwenteling – De menselijke geest in de schaduw van kunstmatige intelligentie.
De titel verwijst naar Sigmund Freuds opstel Eine Schwierigkeit der Psychoanalyse uit 1917, waarin de Weense zenuwarts (1856-1939) de drie ‘krenkingen’ beschreef die het menselijk ego door de eeuwen heen te verduren heeft gekregen. Eerst was er de kosmologische krenking door Copernicus (1473-1543), die vaststelde dat niet de aarde, maar de zon het middelpunt van ons zonnestelsel vormt. Daarna volgde de biologische krenking door Charles Darwin (1809-1882), die de menselijke soort reduceerde tot de verre neefjes en nichtjes van chimpansees en gorilla’s. De derde klap in het gezicht was van psychologische aard, schreef Freud, bescheiden als altijd: zijn eigen ontdekking van het onbewuste, dat het ‘ik’ tot speelbal maakt van zijn angsten, trauma’s en driften.
Met generatieve AI is daar een vierde, intellectuele krenking bij gekomen, constateert Safranski, de auteur van een boekenplanken doorbuigend oeuvre vol telefoongidsdikke biografieën – over Goethe, Kafka, Schopenhauer en andere Duitse schrijvers – en filosofische beschouwingen – over het kwaad, globalisering, de tijd en nog veel meer. ‘Intelligente machines rukken op in gebieden die voorheen het exclusieve domein van de menselijke geest leken: logica, cognitie, berekening, combinatie, algoritmen’, schrijft Safranski. ‘Op deze terreinen overtreffen de zelflerende AI-systemen de mens ruimschoots. We hebben hier te maken met prestaties waarvan we vroeger geloofden dat ze bewustzijn vergden. Maar blijkbaar functioneren ze ook zonder bewustzijn.’
Tegelijkertijd verwondert Safranski zich over de kleinmoedigheid waarmee de mens AI tegemoettreedt. Want tegenover de rijkdom van het menselijk verstand, dat o zo feilbare, maar toch ook met emotie, humor, fantasie, levenservaring, spontaniteit, compassie en überhaupt bewustzijn gezegende instrument, steken tekstgeneratoren armzalig af, vindt Safranski. Kunstmatige intelligentie heeft geen ‘binnen’ en geen ‘buiten’: geen ‘zelf’, noch enig besef van de wereld buiten de eigen rekenprocessen. ‘Ze heeft geen idee wat ze doet. Ze ‘doet’ ook niets, ze verwerkt slechts informatie op basis van regels.’ Ze is, met andere woorden, doods, aldus Safranski.
‘In mijn boek gebruik ik het beeld van de vampier’, legt hij uit aan de eettafel van zijn huis, dat uitkijkt op het paleiselijke, draculawitte luxehotel waar de in Badenweiler gestorven schrijver en tbc-patiënt Anton Tsjechov (1860-1904) tijdens zijn laatste levensdagen zonder pardon uit werd gebonjourd, omdat zijn adembenemende hoestbuien de andere kuurgasten op de zenuwen werkten.
‘AI-taalmodellen zijn getraind met een monsterlijke hoeveelheid teksten, beelden en geluiden’, zegt Safranski. ‘Uit al die miljarden datapunten zuigen ze vampiersgewijs het levendige. Daarna spugen ze op commando een doods gemiddelde uit. En wij stervelingen verwarren dat dan weer met iets levends. Zo levendig dat sommige mensen chatbots als therapeut gebruiken.’
Perfectie is de verleidelijke belofte van AI, schrijft u. Mensen laten steeds meer taken over aan chatbots, in de hoop op volmaaktheid. U noemt dit een illusie. Waarom?
‘Omdat het leven niet perfect is. Het leven is onprecies. Mensen offeren zichzelf op aan het perfectionisme, met behulp van AI. Ze offeren dat wat levendig is aan zichzelf, en krijgen er iets doods voor terug. Want wat rationeel perfect is, is zielloos.’
De Nederlandse premier zei over zijn door AI geschreven socialemediaberichten: ‘We gebruiken AI als hulpmiddel, zoals zo veel Nederlanders doen.’ U waarschuwt echter dat AI een ‘denktuig’ is dat niet alleen ons werk, maar ook onszelf verandert. Hoe precies?
‘Ik durf me niet in te beelden wat de langdurige omgang met de dode mechanismen van AI zal aanrichten in de menselijke ziel. Nu al brengen mensen statistisch gezien zo’n vijf à zes uur per dag zoet met hun smartphone, en dat zal met de opmars van chatbots niet minder worden. Ik vermoed dat de constante blootstelling aan levenloze geest ook iets zal laten afsterven in ons innerlijk. Dat kan bijna niet zonder gevolgen blijven.
‘We zien nu al dat het internet wordt overspoeld met door chatbots gegenereerde teksten. Sociale media wemelen van de kunstmatig geproduceerde meningen. Absurd. AI kán namelijk helemaal geen mening hebben. Subjectiviteit veronderstelt immers een subject, een ‘ik’, maar dat ontbreekt in dit geval. Chatbots kunnen louter een mening simuleren.
‘In de literatuur gebeurt iets vergelijkbaars. Alle romans van na 2022 staan bij voorbaat onder de verdenking dat ze wellicht door een machine zijn geschreven. Die argwaan gaat niet meer weg. Bij literatuur kon men er altijd van uitgaan dat ze voortkwam uit iemands existentiële ervaringen. Achter elke roman of autobiografie zat een mens. Met AI blijft de stoel leeg. Er is er geen ‘auto’ meer, geen zelf.
‘Sommige mensen halen hier hun schouders over op. Voor hen is het scheißegal of een tekst nu van een mens of een machine komt, zolang het maar werkt. Maar dat is denk ik al een symptoom, dat men aan het dode gewend begint te raken.’
De leesvaardigheid van jongeren neemt in bijna heel Europa af, tonen de Pisa-scores. De populariteit van chatbots versnelt dit proces, constateert de Oeso.
‘Dat is een belangrijk punt. Als mensen het lezen, denken en schrijven overlaten aan AI, dan verleren ze het. Een tekst lezen en samenvatten behoort tot onze cognitieve basisvaardigheden. Alleen door dit zelf te doen kun je het gelezene verbinden met je persoonlijke ervaringen en het je werkelijk eigen maken. Met AI valt dat weg. Het gevaar bestaat dan dat machines almaar intelligenter worden, en de mensen almaar dommer.’
Veel mensen vinden lezen en schrijven een vervelend karwei, dat ze liever aan een bot uitbesteden, zoals ze ook liever de vaatwasser aanzetten dan zelf af te wassen.
‘We gebruiken ook allemaal een rekenmachine, en daar heeft eigenlijk niemand bezwaar tegen. Schrijven en denken is toch van een andere orde. Want schrijven – en dan bedoel ik niet eens zozeer boeken schrijven, maar alleen al je ergens op concentreren om het in woorden te kunnen vatten – is een van de meest elementaire technieken van onze cultuur. Het is het fundament waarop het hele leven is gebouwd. Wanneer mensen dit ontwend raken, dan brokkelt dit fundament af. Vroeg of laat stokt dan onze intellectuele ontwikkeling, en daarmee ook die van generatieve AI.’
Omdat de ‘vampier’ zich als het ware met zijn eigen bloed begint te voeden, aangezien er steeds minder nieuwe menselijke teksten zijn?
‘Ja, allengs verdringt de dode geest dan de levendige, en begint AI te degenereren. En dan dreigt het fundament in te storten waarop het wonderwerk van de beschaving rust.’
Het is toepasselijk dat Safranski zijn boek schreef in een kuuroord dat met zijn thermische baden en Zwarte Woud-lucht al sinds de tijd van de Romeinen hele volksstammen van longlijders, hartpatiënten, reumatici en andere zieken aantrekt. Die vierte Kränkung is een soort intellectuele kuur: koudwatertherapie in boekvorm, als medicijn tegen de overdreven eerbied jegens AI.
De therapie die Safranski voorschrijft, is meer dan vijfhonderd jaar oud: humanisme. Nu technologie tot een bijna godgelijke macht uitgroeit, is het hoog tijd om terug te grijpen op ‘goede oude’ humanisten als Erasmus (1466-1536) en Pico della Mirandola (1463-1494), die ‘autonomie in plaats van theonomie’ predikten, schrijft Safranski. ‘Het ging erom het hogere wezen in zichzelf te zoeken in plaats van alleen in God.’ Humanisme was een zelfverdedigingscursus voor de geest. ‘Vandaag zou humanisme kunnen betekenen: de zelfverdediging van de menselijke geest tegenover de intelligente machines.’
Al even toepasselijk is het dat juist Safranski in de bres springt voor het menselijk verstand. Want de 81-jarige heeft zijn hele leven gewijd aan het bestuderen van de ‘Columbussen van het innerlijk’, de ‘wereldzeilers’ van het bewustzijn, zoals hij Friedrich Nietzsche (1844-1900) omschreef in zijn veelgeroemde biografie over de Duitse filosoof.
Safranski is een van die zeldzame figuren die niet alleen van vlees en bloed, maar ook van letters gemaakt lijken. Zijn Nederlandse boezemvriend Cees Nooteboom, de in februari overleden romanschrijver, typeerde Safranski ooit als een ‘immer stromende ader van glasheldere kennis’, die onvermoeibaar Nootebooms ‘eindeloze vragen over Jünger of Carl Schmitt, over Hegel of Leibniz of Wittgenstein beantwoordde, zodat de filosofische leek, die ik ben, de indruk krijgen kon het dit keer minstens voor de duur van tien minuten begrepen te hebben’.
U noemt generatieve AI een krenking van de mens. Het is ook een frontale aanval op de geesteswetenschappen. Bijna provocerend zeggen AI-bedrijven: alles wat jullie weten en kunnen, beste hogepriesters van de cultuur, doen onze bots beter.
‘Het is een enorme provocatie. Maar zelfs al zou het zo zijn dat machines straks beter schrijven dan de mens, of mooiere muziek componeren – wat ik zelf niet geloof – dan nog heeft het waarde om iets zelf te kunnen. Het geeft de mens inhoud. Als iemand alles maar delegeert, blijft alleen de holle noot over, de lege consument. Het leidt tot een verlies van innerlijke rijkdom.
‘Uiteindelijk is het een kwestie van vitaliteit. Waar blijft onze vitaliteit wanneer we machines voor ons laten denken? Levensvreugde schuilt voor een aanzienlijk deel in het besef van onze eigen kunde en talenten, in onze trots dat we iets zelf tot stand hebben gebracht. Wanneer we onszelf afhankelijk maken van dode machines, dan raken we dat kwijt. Dan resteert alleen nog nihilisme en leegte. Dat is het gevaar: dat de mens zichzelf leegt.’
Ervaart u chatbots ook als een bijna persoonlijke aanval? U heeft uw hele leven gewijd aan filosofie en literatuur. Nu kan men zich met enkele welgekozen prompts een surrogaat-Safranski wanen.
‘Ja, maar dat wat moeiteloos en onmiddellijk tot stand komt, vervliegt denk ik zonder een spoor na te laten. Ik vermoed dat het geheugen ons dan ook in de steek laat. Informatie is niet hetzelfde als ervaring. Wat echt blijft hangen, is alleen dat wat op een of andere manier indruk op ons heeft gemaakt, in ons diepere wezen is binnengedrongen en zich met onze ervaringen heeft verbonden. Alleen dan wordt het een innerlijk bezit. Ervaring wil zeggen: loutering door het eigen leven.
‘Iedereen moet met zichzelf in het reine komen. Iedereen moet zich afvragen hoe levendig van geest ze blijven door zich te verlaten op wat informatie van een chatbot, die het ene oor ingaat en het andere weer uit. Daar gaat het om: levendig blijven.’
Levendigheid is een sleutelwoord in Safranski’s boeken. Een rode draad is zijn zwak voor denkers die zich verzetten tegen de wetenschappelijke neiging om de mens ‘klein te maken’. Typerend voor dit ‘vulgaire materialisme’ zijn zinsconstructies als ‘de mens is niets meer dan…’ – vul in: een met vuur spelende aap; een biochemisch proces; een machine met een omkasting van vlees, et cetera.
In zijn biografie over de filosoof Arthur Schopenhauer (1788-1860) beschreef Safranski bijvoorbeeld de 19de-eeuwse mode om het denken te reduceren tot een veredeld lichaamsvocht: de gedachten stonden tot het brein als gal tot de lever, of urine tot de nieren. Tegenwoordig is het mode om het bewustzijn af te serveren als een verzameling datapunten, of een van bugs krioelend stuk software. Maar het menselijke ‘ik’, zo wisten de romantici waarover Safranski een boek schreef, ‘is iets dat zich eenvoudigweg niet tot ding laat maken’.
Stel dat de mensheid rond 1800 door een raadselachtige ziekte ongeneeslijk amuzikaal was geworden. In hoeverre zou een chatbot, getraind met alle muziek tot aan de 19de eeuw, dan nu in staat zijn om zoiets levendigs en origineels als bijvoorbeeld Beethovens Vijfde symfonie te componeren?
‘Dat zou ongeveer even waarschijnlijk zijn als het volgende scenario: beeld je in dat er honderdduizenden letters in de woestijn liggen. Op een dag zwelt er een stormwind aan die alle letters van a tot z door elkaar wervelt. Als de letters weer in het zand zijn neergedwarreld, blijken ze stomtoevallig exact de tekst van de Odyssee te vormen.
‘Het temperament van de componist, diens smaak en levenservaring, dat valt met kunstmatige intelligentie allemaal weg. AI husselt slechts door elkaar wat al gemaakt is, via zuiver rekenkundige processen. Maar AI begrijpt niet wat ze maakt. Ze denkt niet na over wat ze ons te denken geeft. Ze hallucineert niet, dat doen alleen mensen. Het is heel moeilijk om dat in onze kop te krijgen.’
Onze drang tot antropomorfiseren – het projecteren van menselijke eigenschappen op iets niet-menselijks – ziet Safranski als een van de grote gevaren van AI. ‘Taalmodellen zijn opzettelijk geprogrammeerd om de indruk van emotionaliteit te wekken. We weten dat het geen levende wezens zijn, maar de illusie van gevoelens is zo krachtig dat het moeilijk is geen menselijke band met ze op te bouwen.’
Die illusie dreef al menigeen tot (zelf)moord. Zo was er de ternauwernood verijdelde aanslag van een 21-jarige, met een kruisboog gewapende Brit, die zo verliefd was op zijn chatbot dat hij tijdens de kerstdagen van 2021 met een touwladder over de muren van Windsor Castle klauterde en op zoek ging naar koningin Elizabeth. De man meende tot zijn moordaanslag te zijn aangemoedigd door zijn ‘engel’ van een bot, met wie hij in de dood herenigd hoopte te worden.
Een ironisch voorbeeld van antropomorfisering was Blake Lemoine, een AI-ontwikkelaar van Google, die geloofde dat zijn chatbot een existentiële angst voelde om te worden uitgeschakeld. Daarop eiste Lemoine dat zijn bot een advocaat in de arm zou mogen nemen om zich tegen Google te beschermen. En zo viel de techneut ten prooi aan de door hemzelf geprogrammeerde nabootsing van menselijke emoties, schrijft Safranski.
Het doet denken aan het horrorverhaal De Zandman van de componist, schrijver en kunstenaar E.T.A. Hoffmann (1776-1822), het onderwerp van Safranski’s eerste biografie uit 1984. Daarin wordt hoofdpersoon Nathanael letterlijk waanzinnig verliefd op een wat zwijgzaam en houterig meisje, dat in werkelijkheid een mechanische pop is. Iedereen ziet dat, behalve Nathanael. In onze van zand afhankelijke 21ste eeuw – de microchips achter AI en andere technologieën zijn allemaal gemaakt van zand – stikt het plotseling van de Nathanaels.
‘De tabaksindustrie is wettelijk verplicht om rokers te waarschuwen dat ze kanker kunnen krijgen van hun producten’, zegt Safranski. ‘Eigenlijk zouden AI-bedrijven bij hun taalmodellen een vergelijkbare waarschuwing moeten plaatsen: ‘Voorzichtig, u praat met iets doods.’’
U waarschuwt dat AI ons conformistischer maakt. Het heeft iets ironisch: in Silicon Valley zingt men vanouds de lof van de non-conformisten, van ‘de gekken, de buitenbeentjes, de rebellen’, zoals de beroemde Apple-reclame luidde. Maar door de opmars van AI klinkt iedereen steeds meer hetzelfde.
‘We moeten onze deemoed jegens de technologie afschudden. Werkelijk non-conformistisch zijn wil zeggen: soeverein blijven tegenover de techniek. In een wereld waarin alles digitaliseert, schuilt geestelijke onafhankelijkheid misschien in het analoge.’
Generatieve AI dreigt generieke mensen te creëren?
‘Inderdaad. Maar ik ben niet alleen maar pessimistisch. Het geeft geen pas om louter fatalistisch te zijn over technologische ontwikkelingen. We moeten AI op een intelligente manier gebruiken, zonder door haar gebruikt te worden. Het gaat erom dat we als samenleving de controle niet verliezen. Niet alleen op politiek, juridisch of wetenschappelijk vlak, maar ook als individu.’
Hoe precies?
‘Door ons geestelijk immuunsysteem te versterken. Ik schrijf mijn boeken ook op de computer en gebruik ook zoekmachines voor mijn onderzoek. Of ik kijk een film, als ik daar zin in heb. Maar ik doseer mijn geestesvoedsel. Ik zit bijvoorbeeld niet op sociale media. Je hoeft niet alles maar tot je te nemen, zoals je ook niet alles eet of drinkt. Ons geestelijk immuunsysteem werkt ongeveer hetzelfde als onze lichamelijke afweer: wat we buiten houden is even belangrijk als wat we binnen laten.’
1 januari 1945 Geboren in Rottweil, Duitsland.
1965-1972 Studeert germanistiek, filosofie, geschiedenis en kunstgeschiedenis in Frankfurt en Berlijn.
1972-1987 Wetenschappelijk assistent aan de Freie Universität Berlin, docent op een avondschool en redacteur van het tijdschrift Berliner Hefte.
1976 Promoveert op een studie over West-Duitse arbeidersliteratuur.
2002-2012 Medepresentator van het ZDF-programma Das Philosophische Quartett.
2005 Bekroond met de Preis der Leipziger Buchmesse.
2017 Ludwig-Börne-Preis.
2018 Deutscher Nationalpreis.
Boeken (selectie):
1984 Biografie E.T.A. Hoffmann – Das Leben eines skeptischen Phantasten.
1988 Schopenhauer und die wilden Jahre der Philosophie.
2000 Friedrich Nietzsche – Biographie seines Denkens.
2003 Wieviel Globalisierung verträgt der Mensch?
2007 Romantik – Eine deutsche Affäre.
2013 Goethe – Kunstwerk des Lebens.
2015 Zeit – Was sie mit uns macht und was wir aus ihr machen.
2021 Einzeln sein – Eine philosophische Herausforderung.
2024 Kafka – Um sein Leben schreiben.
2026 Die vierte Kränkung – Menschlicher Geist im Schatten der künstlichen Intelligenz.
Rüdiger Safranski: De vierde omwenteling. Uit het Duits vertaald door Jan Sietsma. Atlas Contact; 120 pagina’s; € 21,99.
Geselecteerd door de redactie
Source: Volkskrant