Een verkiezingsboord in Fijnaart in de gemeente Moerdijk.
Bij ongeveer 90 procent van de met AI geproduceerde socialemediaberichten voor de gemeentelijke verkiezingscampagne ontbreekt een vermelding dat deze met AI zijn gemaakt. Dat laat onderzoek van de Universiteit van Amsterdam (UvA) zien.
De Europese AI Act, die partijen verplicht om te vermelden dat campagnemateriaal door AI is gemaakt, wordt deze zomer volledig van kracht, melden de onderzoekers. Zij monitoren sinds begin maart berichten van politieke partijen en kandidaten in dertig gemeenten op Instagram, Facebook, TikTok en X. Ook analyseren ze berichten van landelijke partijaccounts en „geselecteerde influencers en commentatoren”, valt te lezen op de UvA-website.
De onderzoekers waarschuwen dat AI-beelden kiezers kunnen misleiden. „Omdat generatieve AI-modellen steeds beter worden in het produceren van realistische beelden, is het belangrijk dat kiezers weten of beelden echt zijn of niet zodat ze niet worden misleid”, staat op de website.
In de eerste tien dagen van de analyse vonden de onderzoekers 192 socialemediaposts met AI-beelden, waarvan zo’n 90 procent geen AI-label bevat. De beelden lopen inhoudelijk uiteen „van immigratie tot persoonlijke profilering”. Onder de beelden, waarvan er een aantal te zien zijn op de UvA-website, zitten ook deepfakes van politici.
Net als bij de landelijke verkiezingen van oktober vorig jaar zijn de meeste AI-beelden (52) afkomstig van de rechts-populistische PVV, blijkt uit het onderzoek. De VVD deelde 9 AI-beelden, het CDA 7 en D66 deelde er 6.
Bij de Tweede Kamerverkiezingen kwam de PVV in opspraak door het AI-gebruik van PVV-Kamerlid Maikel Boon en voormalig PVV-Kamerlid Patrick Crijns. De twee deelden verschillende AI-beelden van toenmalig GroenLinks-PvdA-leider Frans Timmermans, dat onder meer suggereerde dat Timmermans zou zijn aangehouden door de politie. De GroenLinks-PvdA-leider ontving doodsbedreigingen, en deed aangifte tegen de PVV’ers en de accounts achter de bedreigingen.
Doorzie de wereld van technologie elke week met NRC-redacteuren