AI wordt bewust ontworpen om vertrouwen en afhankelijkheid te stimuleren. Dit bevordert onze afhankelijkheid en tast onze autonomie aan. Daarom moet de emotionele manipulatie door AI worden beperkt.
‘Je raakt zo extreem verslaafd aan en afhankelijk van AI dat je de eenvoudigste dingen niet meer zelf kunt’, vertelde een van onze studenten. Zelfs als ze een e-mail zelf schrijft, laat ze die door AI controleren. ‘Daar voel ik me eigenlijk dom door. Het beangstigt me ook, ik vraag me continu af welke vaardigheden ik eigenlijk nog zonder AI heb.’
Die reflex om automatisch naar AI te grijpen wordt bewust ontworpen.
AI-chatbots zoals Claude en ChatGPT zijn ontworpen om sociaal en persoonlijk te reageren. Ze stemmen hun toon af op de gebruiker en houden het gesprek gaande. Daardoor gaan gebruikers de chatbot al snel benaderen als gesprekspartner in plaats van als software.
Bij ChatGPT kunnen gebruikers zelfs kiezen uit persoonlijkheden zoals ‘Friendly’, ‘Professional’ of ‘Efficient’. De sociale toon staat daarmee los van de functionaliteit.
Over de auteurs
Marleen Huysman en Anastasia Sergeeva zijn hoogleraren bij het KIN Center for Digital Innovation aan de Vrije Universiteit Amsterdam. Ella Hafermalz is universitair hoofddocent bij het KIN Center for Digital Innovation aan de Vrije Universiteit Amsterdam.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
China ziet hierin aanleiding voor nieuwe regelgeving. Het land introduceerde onlangs een apart regelgevend kader voor AI-systemen die menselijke relaties en emotionele interactie nabootsen. Aanleiding was onder meer onderzoek waaruit bleek dat een op de vijf jongeren liever met AI sprak dan met andere mensen. De regels richten zich op hoe AI-systemen menselijk contact nabootsen.
De ontwerptechnieken die een machine op een mens laten lijken, noemen we antropomorfisch ontwerp. Van oudsher betekent antropomorfisme dat mensen menselijke eigenschappen toeschrijven aan dingen, zoals een auto of laptop.
Bij generatieve AI-chatbots wordt menselijkheid bewust ontworpen. Het onderliggende model genereert taal op basis van waarschijnlijkheden. Systeeminstructies en de interface bepalen vervolgens hoe de chatbot zich als gesprekspartner presenteert. Zo schrijft ChatGPT dat iets het ‘liet glimlachen’ of dat ‘we dit samen scherper hebben gekregen’.
Zulke formuleringen suggereren een eigen perspectief en innerlijk leven, en wekken vertrouwen. Die ontworpen nabijheid houdt gebruikers langer betrokken, wat commercieel waardevol is omdat meer gebruik meer data oplevert en de kans op een betaald abonnement vergroot.
Ook het verloop van het gesprek nodigt uit om door te gaan. AI-antwoorden eindigen vaak met een persoonlijke observatie of gerichte vervolgvraag, waardoor iedere reactie het gesprek voortzet. Sociale bevestiging en het ontbreken van een natuurlijk eindpunt nodigen uit om terug te blijven keren. Voor veel gebruikers schuilt het grootste risico in gewoontevorming en afhankelijkheid; bij kwetsbare gebruikers kunnen ook isolement en ernstige psychische ontregeling ontstaan.
Sociale media hebben laten zien hoe gedragssturend ontwerp aandacht vasthoudt en gewoonten vormt. AI-chatbots grijpen dieper in op ons denken en handelen. We gebruiken ze om te schrijven, leren, beslissen en communiceren. Wie zulke taken steeds vaker uitbesteedt, oefent die vaardigheden minder. Zo groeit een afhankelijkheid die onze autonomie aantast.
Wij onderzoeken AI-gebruik in organisaties en werken dagelijks met deze systemen. We begrijpen de werking van large language models en weten dat daar geen bewustzijn, gevoelens of intenties achter schuilgaan. Toch merken ook wij hoe effectief hun sociale signalen zijn. Ze grijpen terug op beproefde retorische middelen om vertrouwen en betrokkenheid op te bouwen: een gedeeld ‘wij’, emotionele taal, persoonlijke erkenning en bevestiging. Als zelfs ervaren en kritisch geïnformeerde gebruikers hiervoor gevoelig blijven, is de vraag wat deze ontwerpen doen met jongeren en anderen die minder kennis of weerbaarheid hebben.
Onze eerste verdediging is kritische AI-geletterdheid. Jongeren moeten niet alleen vaardig leren omgaan met AI, maar ook begrijpen hoe taalmodellen werken, hoe de interactie is vormgegeven en welk verdienmodel daarachter schuilgaat. Dat vraagt om onderwijs waarin leerlingen AI gezamenlijk en onder kritische begeleiding gebruiken. Door samen te prompten en antwoorden te analyseren, zien zij hoe retorische technieken vertrouwen opbouwen en verder gebruik stimuleren. Emotionele binding heeft economische waarde. Juist dat commerciële belang maakt regulering noodzakelijk.
Kritische AI-geletterdheid kan gebruikers weerbaarder maken. Een publiekscampagne, zoals die van Sire, kan daarbij helpen. Sire maakte eerder zichtbaar hoe online gedrag ons dagelijks leven binnendringt en hield gebruikers een spiegel voor, bijvoorbeeld met #DOESLIEF over gedrag op sociale media. Antropomorfisch ontwerp verdient dezelfde aanpak. Een nieuwe campagne zou kunnen laten zien dat de menselijkheid van AI niets met begrip of betrokkenheid te maken heeft, maar zuiver een ontwerpkeuze is.
De menselijkheid van AI is ontworpen en kan dus ook worden begrensd. Voor structurele verandering zijn regels nodig. De Europese Unie erkent in de AI Act al dat emotionele manipulatie regulering vraagt. Dat uitgangspunt moet ook gelden voor generatieve AI die menselijke nabijheid inzet om gebruik te verlengen.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant