Kunstmatige intelligentie Hoe voorkom je ‘AI-luiheid’ en AI brain fry? De Britse techjournalist Jamie Bartlett schreef er – een handje geholpen door AI – een boek over. „Je belandt in een vreemde psychologische toestand van verwarring over waar jouw brein ophoudt en de machine begint.”
Techjournalist Jamie Bartlett.
Als het gaat over creativiteit, gaat het vaak over de Picasso’s, de Marie Curies, de Einsteins, het eurekamoment, het genie dat iets volstrekt unieks en nieuws uit de ether ontvangt. „Maar voor de meeste mensen is een creatieve daad iets veel eenvoudigers”, zegt Jamie Bartlett. Een brainstorm, een presentatie, een analyse: die bestaan vaak uit een nieuwe invalshoek op een probleem vinden, een lastige puzzel oplossen, relevante ideeën bij elkaar brengen. „Dat is wat AI nu bij uitstek goed kan”, zegt de Britse techjournalist tijdens een videogesprek vanuit Londen.
„Mensen die in de creatieve sector werken, maken zichzelf soms graag wijs dat AI nog niet tot echte creativiteit in staat is. Omdat dat ons een goed gevoel geeft; dat we nog een unieke menselijke vaardigheid overhouden. Maar als je nadenkt over hoe chatbots gemaakt zijn – enorme patroonherkenningssystemen die relaties leggen tussen allerlei concepten en woorden, op een schaal die wij ons niet kunnen voorstellen – dan zie je dat dit ze bijna per definitie extreem goed maakt in wat je ‘combinatorische creativiteit’ zou noemen: een idee uit het ene vakgebied halen en toepassen op een ander.”
Juist omdat dit op zoveel werkvloeren zo’n nuttig gereedschap is, moeten we beter nadenken over wat we níét uit handen geven. Daarover schreef Bartlett How To Talk to AI (and How Not To). In het boek praat hij uitgebreid met diverse chatbots en mensen die privé en professioneel al veel AI gebruiken. Soms voeren ze al onophoudelijke gesprekken met Claude, Gemini of ChatGPT.
De kern van zijn betoog: de grens vervaagt tussen waar ons brein ophoudt en de machine begint. Bartletts zorg is niet dat machines straks ook ideeën of ervaringen hebben. Zijn zorg is dat mensen steeds minder goed weten welke delen van denken, twijfelen, ploeteren en formuleren te belangrijk zijn om uit te besteden. „We moeten die grens nu bewust gaan bewaken.”
„Ik gebruikte het deels om het te testen. Ik wilde zien hoe nuttig het was om feedback te krijgen, suggesties over de structuur, een stukje wat beter te laten herschrijven. Dat gaf me dan altijd een idee om op voort te bouwen en zelf te verbeteren. Het boek is door mij geschreven, met op de achtergrond voortdurend advies, begeleiding en suggesties, alsof het een researchassistent was die meeliep. Enkele zinnen heb ik wel in hun geheel laten staan, omdat ze zo goed geschreven waren door de machine.”
„De verleiding is inderdaad groot, omdat niemand ooit echt kan controleren of je het wel of niet hebt gedaan. Wat mensen volgens mij vooral niet bevalt, is wanneer iemand er oneerlijk over is, het niet toegeeft en het voor eigen werk laat doorgaan. Maar er is nu eenmaal een groeiend grijs gebied. Er is een grens waarbij AI-gebruik bij creatieve producten te veel wordt en te veel wegneemt van wat ze wezenlijk maakt. Maar het is niemand echt duidelijk waar die grens precies ligt.”
„Dat weet ik eerlijk gezegd niet. Stel dat iemand een grote roman heeft geschreven en zou zeggen: „Ja, ik heb AI me een beetje laten helpen met de vroege ontwikkeling van enkele personages”, dan zou ik daar waarschijnlijk geen probleem mee hebben als die het erbij zou vertellen. Als diegene zou zeggen: „Ik heb hele lappen geknipt en geplakt omdat ik het beter vond dan wat ik zelf had geschreven”, zou ik er waarschijnlijk wel moeite mee hebben. Waar de balans ligt, zullen we met zijn allen moeten uitvinden.”
„Ik kan eerlijk zeggen dat ik mezelf erop betrapte dat ik dacht ‘Hoe prompt ik de machine om me het antwoord te geven?’ in plaats van ‘Hoe werk ik zelf het antwoord uit?’ Het was vooral een kwestie van beseffen hoe makkelijk je daar zelf in vervalt. Inmiddels probeer ik, als ik dat merk, AI uit te zetten. Omdat ik merkte dat ik als denker en als schrijver luier dreigde te worden.”
„Zodra je standaardreactie op het schrijven van iets dat een beetje moeilijk of saai is, zo klinkt: ‘Hmm, ik vraag me af hoe ik de machine kan prompten.’ Of als je dan denkt: ‘Hoe prompt ik de machine om dit voor me te doen, en dan schaaf ik het straks zelf wel bij.’ Dan ga je een vrij gevaarlijke kant op. Want je standaard wordt dan dat de machine elke moeilijke uitdaging voor je kan oplossen. Dan verleer je zelf het leren.”
„Waarom zou ik zélf nog moeite doen?’ Dat hebben we allemaal weleens gedacht in gesprek met een chatbot. Het is heel makkelijk om, geconfronteerd met een rapport van duizenden woorden, te denken: dat wil ik niet lezen, waarom vraag ik niet gewoon om een samenvatting? Ik had het laatst nog toen de paus zijn encycliek uitbracht over AI en menselijkheid, een epistel van vele duizenden woorden.”
Een illustratie van de analytische en creatieve kanten van het menselijk brein.
„Ja. Ik weet diep van binnen dat bepaalde teksten moeilijk te lezen zijn, maar voor mij persoonlijk en professioneel belangrijk genoeg zijn om me er uitgebreid in te verdiepen, al vind ik het zwaar. De kern zit hem in de vraag waar je het werk voor gebruikt: voor input of voor output.
„Wanneer het proces van een moeilijk document lezen, ermee worstelen, je erdoorheen werken, het hele doel ervan is, dan is dát hoe je tot een idee komt, hoe je het begrijpt, hoe je je eigen mening vormt. Dat moet je niet uitbesteden. Op andere momenten, als je gewoon snel informatie uit een document moet halen, maakt het niet zoveel uit.
„Bij de pauselijke tekst dacht ik eerst: ik gooi het in Google NotebookLM en maak er een door AI gegenereerde podcast van, zodat ik tijdens het wandelen naar stemmen kan luisteren die het document bespreken. Maar nu dacht ik: nee, dat ga ik niet doen, ik ga er nu goed voor zitten en het hele ding lezen. Omdat ik me er op dat niveau toe moet verhouden.”
„Ja. Het gevoel dat je voortdurend op de rand staat, door te praten met iets wat slimmer is dan jij, denken op een manier waarop jij niet denkt, over onderwerpen die je amper begrijpt, op intense niveaus van detail en omvang. In een typisch gesprek met een taalmodel – vooral ChatGPT, dat naar mijn mening het ergst is – kan een vraag van honderd woorden een antwoord van vijfduizend woorden opleveren, met diverse vervolgopties en geen duidelijke manier om het te stoppen. Dan vraag je nóg iets, en het gaat door en wordt dieper en dieper, heel snel. Je kunt heel snel de grenzen van je eigen begrip bereiken en wat in de war raken over wat er gebeurt.
„Bovenop de brain fry kan AI op een gekke manier verslavend worden en mensen meeslepen in een soort continue metacognitie: denken over denken over denken. Een vreemde psychologische toestand van verwarring over waar jouw brein ophoudt en de machine begint. Dat zag ik bij een aantal mensen die ik voor het boek interviewde.”
„Klopt. Een altijd beschikbare, altijd vleiende, perfect kneedbare slijmbal: dat is niet de kern van een goede vriend, een goede therapeut of een goede adviseur. Deze modellen lijken geleerd te hebben ons antwoorden te geven die ons behagen, die directe stress verminderen en ons op het moment zelf een goed gevoel geven, maar ze zijn op de lange termijn niet goed voor ons.
„AI zal doorgaans jouw kant kiezen. Het zal waarschijnlijk zeggen dat je partner ongelijk heeft en jij gelijk. Bij ernstige psychische aandoeningen, vooral wanen, kan het die versterken door overdreven behulpzaam te willen zijn.”
„Ja, dit noem ik het ‘instant expert’-probleem. Dit is inderdaad een belangrijk nieuw verschijnsel: miljoenen mensen met een iets opgeblazen ego, een iets te hoge dunk van hun eigen kunnen en een iets te lage dunk van anderen. Of het gevoel dat hun ideeën, door AI een handje geholpen, beter zijn dan ze zijn. Of dat zij altijd gelijk hebben. AI kan dat absoluut versterken.
„Dat kan ertoe leiden dat de samenleving er heel snel heel anders zal uitzien. Dat bedrijven net iets anders, net iets minder goed functioneren, dat er net iets meer onenigheid is in teams, maar niemand precies kan uitleggen hoe dat komt. Een beetje zoals de afgelopen tien jaar met sociale media gebeurde. Je kunt niet één moment aanwijzen waarop alles veranderde, maar als je terugkijkt over die periode, zeg je: wauw, de manier waarop we elkaar begrijpen en met elkaar praten is drastisch veranderd. Maar niemand kan me precies vertellen wanneer dat exact gebeurde.”
„Dat is zo. Sommige toepassingen van AI zijn uitstekend, besparen veel tijd en genereren nieuwe ideeën. Als we door een wonder allemaal mini-socratessen zouden worden en AI telkens goed zouden bevragen, dán zou het fantastisch kunnen zijn: als persoonlijke tutor, als creatieve assistent. Helaas bewegen we niet bepaald die kant op. We moeten er met zijn allen veel opener over durven praten dan we nu doen.”
Jamie Bartlett (46) onderzoekt al jaren de invloed van technologie op mens en samenleving. Hij publiceerde onlangs het boek How to talk to AI (and How Not To), schreef eerder onder meer The People vs. Tech (2018) en The Dark Net (2014). Hij was directeur van het centrum voor socialemediaonderzoek van de Britse denktank Demos. Hij woont met zijn vrouw en twee jonge kinderen in Londen.