Meer dan de helft van de Amerikaanse tieners gebruikt wel eens AI om geseksualiseerde afbeeldingen te maken. Ook in Europa zijn er veel sites die ‘uitgekleedgereedschap’ aanbieden, terwijl dit in strijd is met de wet.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Experts waarschuwen al een paar jaar voor zogenoemde nudify-apps. Met behulp van AI bieden deze op laagdrempelige wijze de mogelijkheid om mensen op foto’s digitaal te ontkleden.
Een Amerikaanse onderzoeker van de George Mason Universiteit heeft nu in kaart gebracht hoe groot het probleem daadwerkelijk is. Ruim 55 procent van de ondervraagde tieners heeft wel eens zo’n ontkleedapp gebruikt om geseksualiseerde afbeeldingen van zichzelf of anderen te maken.
Ongeveer hetzelfde percentage heeft zelf wel eens zo’n afbeelding ontvangen, blijkt uit een enquête onder 557 jongeren die volgens de onderzoeker representatief is voor Engelssprekende Amerikanen in de leeftijd van 13 tot 17 jaar. De beelden die ze versturen of ontvangen, zijn voornamelijk van leeftijdsgenoten.
Een aanzienlijk deel van de jongeren is het slachtoffer van ongewenst misbruik, blijkt verder uit het onderzoek. Een derde meldt dat er zonder toestemming een geseksualiseerde AI-afbeelding van hen werd verspreid.
Onderzoeker Chad Steel concludeert dat tieners niet langer enkel ‘digital natives’ zijn – inwoners van een digitale wereld – maar ‘AI-natives’. AI-apps die laten zien hoe iemand er zonder kleren uitziet, zijn voor deze generatie een nieuwe vorm van sexting geworden, maar brengen volgens de onderzoeker tegelijkertijd problemen met zich mee op het gebied van toestemming.
Veel van deze activiteiten zijn bovendien in strijd met de Amerikaanse federale wetgeving rondom kinderpornografie. Beleidsmakers zouden zich moeten buigen over de vraag of de wetgeving op sommige punten moet worden aangepast om onderscheid te maken tussen consensuele seksuele verkenning onder leeftijdsgenoten en daadwerkelijk misbruik, schrijft Steel.
Begin dit jaar kwam Grok, de chatbot van Elon Musk, onder vuur te liggen omdat de het mensen – ook minderjarigen – op eenvoudige wijze ontkleedde. Het leidde wereldwijd tot onderzoeken van waakhonden en tot rechtszaken.
In Nederland eiste stichting Offlimits vorige week nog via een kort geding een verbod op de uitkleedfunctie van Grok. De stichting, die zich inzet tegen online seksueel geweld, kreeg vorig jaar ruim 250 meldingen van bewerkte en door AI gecreëerde naaktbeelden. Dat is bijna vijf keer zoveel als het jaar daarvoor.
Media- en privacyrechtadvocaat Karlijn Han van Boekx Advocaten, die Offlimits bijstaan in het kort geding, schrikt van het hoge percentage Amerikaanse tieners dat inmiddels naar nudify-apps grijpt. ‘Maar eigenlijk zou het me niet eens meer moeten verbazen. Dit is een ramp die zich in rap tempo begint te voltrekken. Ook hier in Europa.’
Ondanks wetgeving die het gebruik van ontkleedapps verbiedt, waaronder de Europese Algemene verordening gegevensbescherming, zijn zulke apps ruim om handen, zegt Han. ‘We richten ons bij de rechter nu op Grok, omdat die het bekendst is, maar er is veel meer.’
Begin dit jaar bleken nog tientallen nudify-apps beschikbaar te zijn op de appstores van Google en Apple, waarna beide bedrijven maatregelen namen om de apps te verwijderden. Die maatregelen losten weinig op, benadrukt Han: er zijn nog altijd apps te downloaden. Er zijn vooral veel websites waarmee gebruikers mensen op foto’s kunnen ontkleden.
Deze nudifywebsites bieden gebruikers enkele afbeeldingen gratis aan, daarna moeten de gebruikers betalen. Uit onderzoek van Offlimits blijkt dat er geen leeftijdsverificatie plaatsvindt bij deze sites.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant