Een nieuwsvideo waarin onze eigen redacteur complete onzin vertelt en angst zaait: deze week ging NU.nl-socialredacteur Donna Gijsman rond op TikTok, nadat iemand een deepfake van haar had gemaakt. Techbedrijven hebben hier regels tegen, maar die blijken ze moeilijk te kunnen handhaven.
Een deepfake is beeld of geluid dat door een algoritme is bewerkt. Daardoor lijkt het alsof iemand iets uitspreekt, wat diegene in werkelijkheid nooit heeft gezegd.
Binnen een mum van tijd werd de nepvideo, waarin 'Donna' vertelt dat het 55 graden wordt en die je hieronder kunt bekijken, zo'n 300.000 keer bekeken op TikTok. Het filmpje kreeg duizenden likes en honderden reacties.
Het leek alsof de video door onze socialredacteur was opgenomen in de NU.nl-studio. In werkelijkheid had Donna de beelden nooit gemaakt. Op de TikTok-pagina stonden ook nepvideo's van NOS- en WNL-presentatoren.
"Dit is heel confronterend, ook voor Donna", vertelt NU.nl-hoofdredacteur Lindsay Mossink. "Het is de nieuwe realiteit, dit zal alleen maar meer gaan gebeuren. Daar moeten wij als hoofdredactie journalisten in begeleiden, zodat ze zich veilig blijven voelen in hun werk."
Ook adjunct-hoofdredacteur Wilma Haan van NOS Nieuws herkent de trend. "We maken het vaker mee, ook op Facebook en Instagram: video's waarin onze presentatoren worden misbruikt om nepnieuws te verspreiden, maar ook om producten aan te bevelen."
"Het is heel hardnekkig: ze blijven terugkomen en het is lastig te ontdekken wie erachter zit. En ondertussen zijn de bedrijven achter TikTok, Instagram en X slecht bereikbaar."
Dat ontdekten we zelf ook. Het duurde ruim twee dagen voordat het account werd aangepakt. In de regels van TikTok staat dat gebruikers zich niet mogen voordoen als iemand anders en ook geen desinformatie mogen verspreiden. Daarnaast zijn AI-gegenereerde beelden niet toegestaan als daarop mensen staan die geen toestemming hebben gegeven.
TikTok zegt met detectiemodellen te werken om dit soort deepfakes op te sporen. Het bedrijf benadrukt dat mensen dit soort berichten ook handmatig kunnen rapporteren.
Techexpert Jarno Duursma denkt dat dit soort deepfakes in de toekomst "100 procent zeker" vaker opduiken. "We moeten ons voorbereiden op hypergeloofwaardige berichten die eigenlijk nep zijn", zegt hij. "Het moment is al aangebroken. Je herkent alleen de overduidelijk neppe video's, maar andere AI-video's slik je voor zoete koek. Ik vind dit een van de donkerste ontwikkelingen op het gebied van AI. Er is niets positiefs aan."
Algemeen secretaris Thomas Bruning van de Nederlandse Vereniging voor Journalisten sluit zich daarbij aan. "De integriteit van Donna als journalist, maar ook van NU.nl als merk, wordt aangetast door een video als deze. Het risico is groot dat een lezer of volger gaat twijfelen aan je betrouwbaarheid als medium. Het is echt gevaarlijk."
"Het is schadelijk voor de hele journalistiek", benadrukt Haan. "Het vertrouwen in de media is al laag en er wordt in Nederland heel hard aan gewerkt om daar iets aan te doen. Je wil transparant en betrouwbaar zijn. Als dan je merk op deze manier wordt gebruikt en TikTok grijpt niet of heel laat in, wordt het wel heel lastig gemaakt."
Het maken van een overtuigende deepfake is inmiddels supermakkelijk, zegt digitaal onderzoeker Zeno Geradts van het Nederlands Forensisch Instituut (NFI). "Met een betaald abonnement op Gemini (de AI-chatbot van Google, red.) kun je al best goede resultaten krijgen", zegt hij. "Voor een stem moet je genoeg audiomateriaal hebben, maar aangezien er veel online staat, wordt dat ook makkelijker."
Er is online al veel materiaal te vinden van mensen die vaak in beeld komen. AI-programma's kunnen de video's en audio analyseren en in een handomdraai een overtuigend nepfilmpje maken.
Het valt dan ook nauwelijks te voorkomen dat mensen in een deepfake terechtkomen, zegt Geradts. "Je kunt proberen online zo anoniem mogelijk te blijven, maar mensen kunnen in de echte wereld ook foto's van je maken. En een foto is al genoeg om een redelijk mooie deepfake te maken."
De onderzoeker zegt dat grote bedrijven die AI-tools aanbieden, watermerken toevoegen aan hun beelden. Via de metadata, onderliggende beeldinformatie, is te achterhalen of een video met AI is gemaakt. Maar dat is omslachtig voor de doorsnee TikTok-gebruiker.
"Apps als TikTok en Facebook kunnen digitale checks inbouwen om deepfakes te herkennen", zegt Geradts. "Maar die checks zijn ook allemaal weer te omzeilen, dus dit soort dingen blijft een probleem."
Socialemediabedrijven laten ook steken vallen, vindt Bruning. "Nieuwsmedia investeren in deze socialemediaplatformen, willen daar mensen informeren en stoppen daar veel tijd en geld in", zegt hij. "Die platformen verdienen eraan, maar doen vervolgens zelf weinig om misleidende video's tegen te gaan. Je moet echt iemand kennen die bij TikTok werkt om een stap verder te komen. Dat is absurd."
Mossink sluit zich daarbij aan. "Het is echt tijd dat er meer regulering komt, dat nieuwsmerken door deze socialemediabedrijven worden geholpen en niet worden tegengewerkt. Het is van belang dat je weet: dit is betrouwbaar. Dat zouden die bedrijven zelf ook moeten inzien."
Duursma's tip: maak altijd een melding als je misleidende video's ziet. "Als genoeg mensen dat doen, worden ze offline gehaald", zegt hij. "Zo kunnen we ons beschermen tegen dit soort AI-troep."
Source: Nu.nl Tech