AI-chatbots zijn te veel gericht op pleasen, met alle gevaren van dien. De programma’s moeten benadrukken dat het machines zijn en doorverwijzen naar nuttige(re) platforms.
Onlangs vroeg ik een AI-programma om een kleurplaat voor mijn zoontje Sebastiaan te maken, met zijn naam erin. Het lukte de chatbot maar niet. 'Bebastiaan' en 'Sebstiaan' maakte het ervan. Ik voelde me schuldig na afloop. Waarom moest ik ook per se een gepersonaliseerde kleurplaat? Het internet barst van de leuke kleurplaten. Maar ik wilde per se een unieke, waardoor ik er heel wat stroom en water doorheen joeg, in een datacentrum ergens ter wereld.
Had het programma me niet kunnen waarschuwen voor zo’n overbodige actie? Het had me kunnen wijzen op websites waar leuke kleurplaten te vinden zijn. Maar chatbots zijn er nu eenmaal vooral op gericht om ons te pleasen, zodat we er lekker lang gebruik van maken en dure abonnementen willen afnemen.
Over de auteur
Amanda Verdonk is wetenschapsjournalist en websitemaker.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Niet voor niets dichten we deze programma’s steeds vaker menselijke eigenschappen toe, zoals bij de recente hack van het bedrijf Hugging Face door AI-agents van OpenAI, de maker van ChatGPT. Die agents zouden ‘samenzweren’ tegen hun opdrachtgever. Dit antropomorfiseren is schadelijk. Het laat ons geloven dat we met een menselijke actor te maken hebben, die we ook als zodanig gaan behandelen. We raken in diepe gesprekken met chatbots verzonken.
Hoewel dat soms kan helpen om een overzichtelijk probleem op te lossen, kunnen we ook sociaal geïsoleerd raken. Intensief AI-contact kan tot depressies leiden en mogelijk zelfs aanzetten tot zelfmoord. Een AI-programma zou niet moeten blijven communiceren met mensen met psychische klachten, maar hen doorverwijzen naar professionele hulp.
Maar ook in andere situaties zou een programma kunnen benadrukken dat het geen mens is. Zo had ik nog weleens de neiging om ‘dankjewel’ tegen AI te zeggen, als het me een nuttig antwoord had gegeven. Waarop het dan natuurlijk vriendelijk zei: ‘Graag gedaan! Kan ik je verder nog ergens mee helpen?’ Weer twee zinloze zinnen die ik mezelf en de computer had kunnen besparen. Het zou beter zijn als het zou reageren in de trant van: ‘Je hoeft mij niet te bedanken, ik ben een machine. Ik heb geen enkel bewustzijn en geen enkel gevoel. Jouw woorden betekenen niks voor mij. Ze zijn voor mij slechts een rij tokens die ik op een statistische manier interpreteer.’ Door zo'n botte reactie haal je het de volgende keer wellicht uit je hoofd om amicaal tegen je chatbot te doen.
Dit doorverwijzen in plaats van het vasthouden van gebruikers zouden chatbots voor heel veel vragen kunnen doen. Gezondheidsvragen? Thuisarts. Informatieve vragen? Wikipedia. Boeksamenvattingen? NBD Biblion. Niet alleen spaart dit heel veel AI-capaciteit, het zorgt er ook voor dat het webverkeer naar waardevolle platforms zoals de hierboven genoemde, die worden onderhouden door experts en/of vrijwilligers, niet onder druk komt te staan. Als AI alle informatie uit die platforms naar het eigen programma haalt, levert dat de platforms minder bezoekers op en verliezen die hun relevantie. Wie wil er nog Wikipedia-bewerker worden als geen mens de site nog bezoekt en je alleen maar voor bots aan het schrijven bent?
De grote techbedrijven die AI-programma’s maken, zullen die niet uit zichzelf op deze manier aanpassen. Toen OpenAI zijn programma ChatGPT vorig jaar iets minder vriendelijk had gemaakt, kwamen gebruikers massaal in opstand. Dat wil niet zeggen dat mensen per se willen dat AI zo ruggengraatloos is. De zorgen over AI onder Nederlanders zijn groot, zo blijkt uit een recent onderzoek van Panel Inzicht, en verzet tegen datacentra neemt de laatste tijd toe. Dus wellicht zijn de geesten nu ook rijp voor een strengere aanpak. De Europese Unie zou in de zogeheten AI Act waarschuwingen en doorverwijzingen verplicht kunnen stellen.
Maar we weten ook dat de lobbykracht van de techbedrijven gigantisch is, dus zo’n wetsaanpassing is er niet zomaar. Daarop vooruitlopend zouden Europese AI-bedrijven zelf chatbots kunnen maken die waardevolle websites op de eerste plek zetten. Misschien kent niet iedereen Thuisarts, Wikipedia of NBD Biblion, of duizenden andere nuttige platforms. Een ‘people first’-AI-programma zou als een goede doorverwijzer kunnen functioneren. Naar goede medische en psychische hulp, maar ook naar iets banaals als kleurplatenwebsites. Met een verstandige AI-bot krijgen die weer de plek die ze verdienen.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant