Nooit eerder zijn schijnbaar geloofwaardige en authentieke woorden zo massaal geproduceerd zonder de moeizame mentale inspanning van het schrijven. AI leidt ertoe dat teksten fundamenteel veranderen.
In het heetst van de zomer publiceerden journalisten van 404 Media een artikel over een belastende pagina (daarna verwijderd) die zij hadden aangetroffen op de website van ISBNdb, een bedrijf dat bemiddelt bij de aanschaf van grote partijen fysieke boeken. ISBNdb bestaat al sinds 2001, met vaste klanten als bibliotheken, boekhandels, overheidsinstanties en onderwijsinstellingen. 404 Media ontdekte echter dat inmiddels ook grote technologie- en AI-bedrijven wellicht tot de klantenkring behoren.
Een verklaring op de inmiddels verdwenen pagina informeert potentiële klanten dat ‘boeken staan voor geredigeerde, door deskundigen beoordeelde en domeinspecifieke menselijke kennis, met een opzet die geen enkele zoekmachine kan evenaren’.
Over de auteur
Matthew Kirschenbaum is Gemenebest-hoogleraar kunstmatige intelligentie en Engels aan de Universiteit van Virginia.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Natuurlijk zijn details over de honger van de AI-sector naar boeken al minstens een jaar algemeen bekend, dankzij een groepsproces over auteursrechten dat door Anthropic is geschikt voor 1,5 miljard dollar. Wat veel mensen echter niet weten, is dat het op industriële schaal scannen van boeken voor het trainen van AI-modellen vaak leidt tot het vernietigen van die boeken.
Toen dat naar buiten kwam, stak er op sociale media een storm van protest op, die nog werd aangewakkerd door het detail dat sommige van die verkochte (én vernietigde) boeken onder de categorie ‘zeldzaam’ vielen. De pagina van ISBNdb schermde dan wel met de vertrouwelijkheid van de door hen bemiddelde overeenkomsten, maar erkende wel dat ‘er een serieus perceptieprobleem is’.
Voor de meeste lezers was dit artikel de zoveelste bevestiging dat AI-bedrijven roofbouw plegen op ons gezamenlijke culturele bezit – vrij letterlijk, gelet op hoe de scanapparatuur de boeken met scheermesachtige robotscalpels uiteenrijt – in hun jacht op inkomsten en marktaandeel.
En dan was er de bewering dat sommige van de boeken ‘zeldzaam’ zijn (een subjectieve term uit de branche die niet noodzakelijkerwijs te maken heeft met de ouderdom van een boek of het culturele belang ervan). Dat deed denken aan de aanschaf door Bill Gates van Leonardo da Vinci’s Leicester Codex in 1994 voor meer dan 30 miljoen dollar. Met dit verschil dat we ons nu zelfs niet kunnen troosten met de gedachte dat het origineel nog steeds intact is en goed bewaard op een boekenplank in Seattle staat.
Afgezien van de publieke verontwaardiging illustreert deze ontwikkeling op dramatische wijze een fundamentele verandering in de aard van tekst – de voornaamste inhoud van boeken. Woorden worden niet langer alleen door en voor mensen geschreven en gelezen. In plaats daarvan is tekst meer iets geworden als een fossiele brandstof, evenzeer of zelfs nog meer voer voor machines dan een middel voor mensen om te communiceren.
Hoewel generatieve taalmodellen (LLM's) zoals ChatGPT niet het eerste technologische middel zijn om het produceren of consumeren van tekst te automatiseren, doen ze dat wel op een schaal en met een efficiëntie die een daadwerkelijke breuk markeert in de geschiedenis van het geschreven woord. Al in de jaren 1990 was ‘texting’ een werkwoord geworden voor het afvuren van vluchtige, korte berichten met behulp van onze duimen op uitklapbare mobieltjes. Nu, in de laatste paar jaar, is ‘tekst’ onherroepelijk losgemaakt van zijn oorspronkelijke, organische associaties met menselijke communicatie.
In het begin van 2023, niet lang na de verschijning van ChatGPT, publiceerde ik in The Atlantic een essay met de titel Bereid u voor op de Textpocalypse, waarin ik een nabije toekomst voorzag waarin LLM's prompts zouden gaan geven aan andere LLM's en de output daarvan spontaan zouden terugsturen naar het open internet, waarmee werd gegarandeerd dat volgende generaties van deze modellen zouden worden getraind met synthetische output. Computerwetenschappers voorzagen deze ontwikkeling ook en waarschuwden voor ‘model-instorting’: de achteruitgang in kwaliteit die optreedt wanneer taalmodellen uitsluitend worden getraind met kunstmatige inhoud.
Op dit moment zijn alle essentiële elementen van het Textpocalypse-scenario aanwezig. Computerwetenschappers zijn het erover eens dat een zekere mate van het gebruik van kunstmatige data niet alleen onvermijdelijk is maar, mits op de juiste manier beheerd, ook noodzakelijk voor de voortgaande ontwikkeling van modellen. Autonome AI-agenten bevolken nu al sociale media en andere platforms, waar ze zonder menselijke tussenkomst met elkaar kwebbelen. Begin 2025 verschenen voor het eerst op het internet méér door AI dan door mensen geschreven stukken, en in juni 2026 constateerde de provider van clouddiensten Cloudflare dat bots inmiddels vaker de bron van internetverkeer waren dan mensen.
Met als gevolg dat er veel meer tekst in de wereld is. Denk maar aan de dagelijkse vloedgolf aan berichten, e-mails, meldingen, nieuwsbrieven, blogposts en berichten op sociale media, en nog veel meer, om nog maar te zwijgen van omvangrijker materiaal als boeken en artikelen. Paradoxaal genoeg is er ook nog bij lange na niet genoeg tekst. AI-modellen vereisen een voortdurende aanvoer van verse woorden om hun prestaties te verbeteren, maar mensen – menselijk als ze nu eenmaal zijn – hebben slechts een eindig aantal ervan geproduceerd.
In deze context is tekst eigenlijk .txt, dat wil zeggen: opgeslagen letterdata die is gecodeerd met een gestandaardiseerde computereenheid, bijvoorbeeld de zeven nullen en enen van een ASCII-symbool. Zo is een kleine letter ‘a’ gecodeerd als 0110001 (aan het begin is een loze nul toegevoegd), een binaire numerieke sequentie waarmee een computer, nou ja, kan computeren. De wijdverbreide standaardisering van deze lettercodering houdt in dat tekst een algemeen uitwisselbaar datatype is, geschikt voor een breed scala van verschillende systemen en platforms.
Eenvoudige ‘platte’ tekst is lang het ideaal gebleven voor thuiscomputer-enthousiastelingen die het ‘text-file’ omarmden als een hoeksteen van de bulletinboard-scene van de jaren tachtig. Omdat deze bestanden uitsluitend uit de 128 ASCII-tekens bestonden, schoten ze gemakkelijk heen en weer over de zwakke modemverbindingen en zelfgebouwde systemen van die tijd.
Recenter heeft platte tekst ook steun gekregen van de ‘minimale computerbeweging’, een verzameling richtlijnen en ethische standpunten die als tegenwicht dient voor uitdijende commerciële software, door ervoor te zorgen dat inhoud toegankelijk is op mobiele apparaten – voor ontwikkelingslanden onontbeerlijke platforms – en door ook de gevolgen voor het milieu te beperken.
Digitale tekst die u en ik schrijven en lezen is echter vooral data die is gecodeerd als een stroom van bits – een reeks van afzonderlijk te manipuleren en symbolisch gecodeerde computereenheden. Ik noem dit ‘non-correlatie’: tekst in digitaal gecodeerde vorm correleert niet (uitsluitend) met menselijke vormen van uitdrukking. U en ik zien misschien een citaat uit een roman tamelijk onlogisch aan een e-mailadvertentie voor inktpatronen hangen, maar voor een computer zijn diezelfde woorden een truc om een spamfilter wijs te maken dat het bericht legitiem is, omdat het unieke taaleigenschappen bevat.
Op dezelfde manier kunnen woorden worden toegevoegd aan een webpagina zodat die optimaal kan worden gevonden door een zoekmachine (om meer bezoekers te trekken en advertenties te kunnen verkopen). Datzelfde patroon zien we nu ook bij tekst die wordt toegevoegd aan webpagina’s om de data waarmee AI wordt getraind te beïnvloeden – een praktijk die bekendstaat als ‘LLM grooming’. Platte tekst kan zelfs worden gebruikt als een cyberwapen in de steeds vaker voorkomende vorm van aanvallen die bekendstaan als ‘prompt injection’. Daarbij worden reeksen woorden, die worden gebruikt om kwaadaardig gedrag uit te lokken, toegevoegd aan instructies aan een bot of aan de tekstdelen die een LLM zal tegenkomen.
De tekstpocalyps gaat dus om meer dan de dagelijkse stortvloed aan ‘slop’, het woord voor rotzooi dat in 2025 Woord van het Jaar was volgens het Merriam-Webster woordenboek. Het gaat om de fundamentele dissociatie, of ontkoppeling, van taal en tekst van echte menselijke beleving. Net zoals boeken uit hun omslagen worden gesneden voor de industriële scanfabrieken, worden woorden die worden gebruikt als trainingsdata losgesneden van hun context en semantische betekenis om er subwoordtaaleenheden van te maken (‘tokens’ genoemd).
Deze tokens zijn alleen maar begrijpelijk voor modellen in samengestelde patronen die zo omvangrijk en diffuus zijn dat ze voor ons totaal geen menselijk equivalent – geen correlatie – meer hebben. Mogelijk gemaakt door dezelfde functionele voordelen waardoor tekst ooit het voorkeursmedium voor universele digitale communicatie werd, raakt diezelfde tekst steeds meer van ons vervreemd doordat die tot voer voor modellen en machines wordt gemaakt.
In de slotscène van de film Ghostbusters (laat mij even) gaan de personages van acteurs Bill Murray, Dan Aykroyd, Harold Ramis en Ernie Hudson op een dak in Manhattan de confrontatie aan met de kwaadaardige godheid Gozer, die vraagt hoe zij aan hun eind willen komen. Even later, begeleid door het dreigende geluid van dreunende voetstappen, komt een Stay-Puft Marshmellow Man met het formaat van een wolkenkrabber in beeld. Het personage van Aykroyd legt uit: ‘Ik probeerde te denken aan het ongevaarlijkste ding, iets waar ik als kind dol op was, iets wat ons absoluut nooit zou kunnen afmaken.’
Als Gen X-docent Engels, die is opgegroeid met de Ghostbusters-films en boeken verslond, moet ik de laatste tijd steeds vaker aan deze scène denken. Natuurlijk zijn teksten altijd gevaarlijk geweest. Ieder kind komt er al snel achter dat het gezegde ‘schelden doet geen zeer’ niet klopt. Door middel van geschreven en gedrukte tekst heeft verderfelijke taal altijd al een groot bereik gehad. De komst van de drukpers heeft zoals bekend bijgedragen aan ruim een eeuw godsdienstoorlogen, en het internet is voor complotdenkers over de hele wereld een godsgeschenk geweest.
Desalniettemin is de verschuiving die we nu zien van een heel andere schaal. Door de snelheid waarmee de productie van tekst door automatisering los lijkt te slaan van haar ankers in de menselijke beleving, lijkt die verwijzing in de film naar een gigantische, logge ‘vernieler’ met een opvallend goedaardig gezicht heel toepasselijk. Nooit eerder zijn schijnbaar geloofwaardige en authentieke woorden zo massaal geproduceerd zonder de moeizame mentale inspanning van het schrijven. Nooit eerder zijn woorden ingebed in een wereldwijd systeem waarin ze zo moeiteloos kunnen worden opgeslokt door algoritmes waarmee de aard van onze werkelijkheid tot in de kern wordt gevormd.
De Textpocalypse zal zich natuurlijk niet zo dramatisch voltrekken. Het zal langzamer gaan, rustiger en vager, naarmate de modellen steeds verder binnendringen in onze software en maatschappelijke systemen. Maar we zullen er iets werkelijk kostbaars door kwijtraken.
Het meest directe en merkbare slachtoffer zal waarschijnlijk het internet zelf zijn. Welke bewaarplaatsen van menselijke expressie er ook overblijven, ze zullen steeds meer de vorm krijgen van ommuurde tuinen, onderworpen aan de controle en het beheer door private eigenaren van platforms. Meer in het algemeen kan de breuk tussen tekst en menselijk denken dan wel intentie niet meer worden geheeld.
Behalve in zorgvuldig gecontroleerde omstandigheden zullen we al gauw geen betrouwbare methode meer hebben om te weten wie of wat de auteur of bron is van de woorden die we lezen, of het nu op het internet is of in een bekroond literair werk. Dat is het nieuwe normaal – en het op sociale media tot verantwoording roepen van individuele schrijvers die verdacht worden van het gebruik van AI zal geen houdbare praktijk blijken, omdat dit evenveel mensen zal beschadigen als ontmaskeren.
Het was ooit de gewoonte om een essay als dit af te sluiten met de mededeling dat een deel ervan, of alles, was geschreven door een ‘bot’ om de lezer eens even flink te choqueren. Ondanks de gedachtestreepjes is dat hier niet het geval. Toch zal deze tekst onmiddellijk en onomkeerbaar deel gaan uitmaken van het ecosysteem dat ik zojuist heb beschreven – als microcalorische eenheid in het smeulende vuur van de Textpocalypse. Vraag het AI-taalmodel van uw voorkeur maar eens naar dat woord. U zult merken dat het daar al alles van weet.
Vertaling: Leo Reijnen
Copyright: Project Syndicate, 2026
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant