Nadat een rector van de Universiteit Gent haar werk moest neerleggen wegens het gebruik van verzonnen AI-citaten, is nu ook voormalig NRC-hoofdredacteur Peter Vandermeersch op non-actief gezet omdat hij door AI gegenereerde citaten heeft gebruikt. We bellen erover met techverslaggever Laurens Verhagen.
is nieuwsverslaggever van de Volkskrant.
Dag Laurens! Hoe kan het toch dat mensen steeds weer in de fout blijven gaan met AI?
‘Ik denk dat dat voor een deel te maken heeft met onwetendheid. Denk bijvoorbeeld aan een scholier van 15 jaar die AI gebruikt voor zijn werkstukken en niet goed begrijpt hoe de taalmodellen werken.
‘In het geval van Vandermeersch is er volgens mij iets anders aan de hand. Hij waarschuwt in zijn blogs zelf voor de gevaren van AI voor de journalistiek, dus ik denk dat hij zich schuldig heeft gemaakt aan een soort automatiseringsluiheid. Daarmee bedoel ik dat mensen steeds minder scherp opletten bij het gebruik van automatische systemen, omdat je er op een gegeven moment vanuit gaat dat het wel goed zit.
‘Als chatbots vaak onzin zouden verkondigen, zouden ze niet zo populair zijn. Het punt is dat het negen van de tien keer goed gaat, maar soms glipt er toch een fout tussendoor, zoals bij Vandermeersch. En het gemak dat chatbots bieden is blijkbaar toch te aantrekkelijk.
‘Bij rector Petra De Sutter van de Universiteit Gent zag je dat ook. Zij noemde in een speech een citaat van Albert Einstein, ‘dogma is de vijand van progressie’, maar achteraf bleek dat het citaat door AI was verzonnen. Het feit dat deze mensen zelf waarschuwen voor de valkuilen van AI maakt het des te pijnlijker.’
Wat gaat er nou eigenlijk precies mis met die citaten? Er staan toch altijd linkjes bij die terugleiden naar de bron?
‘Het klopt dat tools als Perplexity en Notebook bronnen geven bij hun uitleg, maar dan moet je wel de moeite nemen om die te controleren. Ik ben in mijn werk bijvoorbeeld regelmatig linkjes tegengekomen waarin wel een deel van de door AI gepresenteerde citaten staat, maar die dan niet volledig kloppen. Soms worden citaten toegewezen aan de verkeerde persoon of zelfs volledig bedacht.
‘Dat komt doordat AI in de essentie een wiskundig model is dat geen begrip heeft van de werkelijkheid. De populaire tools zijn taalmodellen die data gebruiken om voorspellingen te doen en met waarschijnlijkheden werken. De makers van de modellen stellen dat AI soms nog ‘hallucineert’, maar ik vind dat een te positieve formulering.
‘De fouten van AI zijn namelijk geen bugs, maar onderdeel van het ontwerp van de chatbots. Ze zijn gemaakt om informatie op een overtuigende manier te presenteren en daarbij kunnen fouten worden gemaakt.
‘Zo kan een chatbot niet-bestaande quotes formuleren van personen als zij op het internet vaak gelinkt worden aan bepaalde informatie. AI gaat er dan vanuit dat de desbetreffende persoon bepaalde uitspraken wel gedaan zal hebben. Chatbots zijn goed in het op uitstekende wijze verwoorden van onzin.’
Vandermeersch is van mening dat AI de journalistiek beter maakt. Hoe zie jij dat?
‘Nou, in ieder geval niet op de manier waarop hij AI heeft gebruikt. Ik ben niet van de school die zegt dat je AI helemaal niet moet gebruiken, maar deze situatie is natuurlijk ontzettend kwalijk voor de journalistiek in het algemeen.
‘Ik denk wel dat je de taalmodellen op een goede manier kunt gebruiken. Zo heb ik net een boek afgerond over de mensen achter de grote techbedrijven en daarvoor heb ik AI gebruikt als een soort extra eindredacteur. De tool haalde dubbelingen uit mijn tekst en gaf zelfs aan dat ik een rekenfout had gemaakt. Ook gebruik ik Perplexity weleens om aan bronnen te komen waarop ik via een traditionele zoekmachine misschien niet terecht zou komen.
‘Maar het is altijd gevaarlijk om denkwerk uit te besteden aan AI, zoals vragen om verbanden te vinden tussen twee onderwerpen. AI-tools vinden altijd verbanden, ook als die er eigenlijk helemaal niet zijn. Dat maakt het ook onbegrijpelijk dat het juist bij Vandermeersch fout is gegaan. Het controleren van bronnen is de basis van de journalistiek.’
Geselecteerd door de redactie
Source: Volkskrant