De hoofdredactie van NU.nl vertelt wekelijks over wat zich op de redactie afspeelt. Deze week: hoe een deepfake van onze presentator onze integriteit aantast.
"Hier kun je echt wakker van liggen", zei een van onze presentatoren voor sociale media. Dinsdag bespraken we tijdens de redactievergadering een wel erg vervelende video. Collega Donna Gijsman kwam die week ervoor plots voorbij in een video die was gemaakt met AI.
De video ging over de hittegolf en Donna vertelde vanuit de NU.nl-studio dat het 55 graden kon worden. Klinkklare onzin natuurlijk. De nepvideo was gemaakt met AI en gedeeld via een account dat niets met ons te maken heeft.
Ja, je zag Donna, maar je hoorde een andere stem en ze bewoog toch wel heel vreemd. "Mijn identiteit werd hiermee misbruikt", zei Donna in diezelfde vergadering. In onderstaande video vertelt Donna over de deepfake.
Het internet verandert. Techverslaggever Rutger Otto schrijft er wekelijks over. Eerder sprak hij al eens met een AI-ethicus die stelde dat het delen van AI-troep niet alleen de waarheid vertroebelt, maar de waarheid ook kan vervormen. En laat dat nu precies het probleem zijn.
Onze presentatoren willen zichtbaar zijn op sociale media. We vinden het belangrijk dat jij ook dáár betrouwbaar nieuws voorbij ziet komen. Dat doen we bewust met onze eigen gezichten, om de betrouwbaarheid te vergroten. Het is extra pijnlijk dat nu juist een van die gezichten wordt misbruikt voor nepnieuws.
Het wordt ons bovendien al knap lastig gemaakt op sociale media. Het werk van nieuwsorganisaties wordt steeds verder weggedrukt in de algoritmes van de platforms. In plaats daarvan tref je vaker nepbeelden.
Het is een wonder dat dit de eerste keer was dat er een nepvideo is gemaakt van een van onze journalisten. Het zal in ieder geval zeker niet de laatste keer zijn. "De nieuwe realiteit", noemde redactiechef Frank Brinkhuis het.
In het recente onderzoek van het Commissariaat voor de Media komt naar voren dat het vertrouwen in nieuws weer is gedaald. Tja, als je als kijker al niet meer kunt inschatten of een video van een bekende nieuwslezer echt of nep is, hoe weet je dan nog wat je wél moet geloven? We kunnen ons goed voorstellen dat het wantrouwen alleen maar toeneemt.
De deepfake van Donna doet daarmee in vergaande vormen afbreuk aan wat wij proberen op te bouwen: betrouwbare nieuwsvoorziening voor iedereen. Het tast de integriteit van Donna én van ons merk aan.
Met zeker 300.000 views op TikTok was de impact groot. De video kreeg duizenden likes en honderden reacties. Het duurde twee dagen voordat TikTok ingreep en de video verwijderde. Daar hadden we onze juridische afdeling voor nodig, én tientallen collega's die de nepvideo rapporteerden.
TikTok zegt dat gebruikers zich niet mogen voordoen als iemand anders en geen desinformatie mogen verspreiden. AI-gegenereerde beelden van mensen die daar geen toestemming voor hebben gegeven zijn niet toegestaan. Tot nu toe zijn dit regels waar de socialemediabedrijven zich niet aan committeren.
Daarmee ligt de bal toch weer bij de kijker. "Het is misschien lastig om kritisch te blijven nadenken als je als gebruiker op de bank ligt te doomscrollen", schreef Rutger eerder. "Er komt zo'n enorme stroom aan beelden voorbij dat je logischerwijs niet alles kunt factchecken."
Om te besluiten: "Toch zou het goed zijn om opmerkzaam te zijn: beoordelen waar een beeld vandaan komt, wie het deelt, met welk mogelijk doel, en of er meer betrouwbare bronnen zijn."
Rutger heeft natuurlijk gelijk, maar als het over betrouwbaar nieuws gaat, ligt de bal ook gewoon bij ons. En nee, socialemediabedrijven helpen ons daar niet bij; je zou eerder kunnen stellen dat we worden tegengewerkt.
Wat kunnen we dan wél doen om jou van betrouwbaar nieuws te voorzien? Daar hebben we gelukkig ook een eigen platform voor: gewoon een nieuwsapp zonder AI-troep.