Het Europees parlement is ermee akkoord gegaan dat niet-versleutelde berichtendiensten, zoals e-mail en Instagram-chats, gescreend kunnen worden naar beelden van kindermisbruik. Eerder was dit voorstel weggestemd uit vrees dat het de rode loper zou uitrollen voor massasurveillance.
is techredacteur van de Volkskrant. Hij schrijft onder meer over digitale autonomie, sociale media en games.
Het is de jongste ontwikkeling in een jarenlange, hoogst gevoelige discussie in Europa. Al in 2022 legde de Europese Commissie een voorstel op tafel om met kunstmatige intelligentie op berichtendiensten te zoeken naar online kindermisbruik. Door apparaten van verstuurders en ontvangers te scannen, zou de voorgestelde ‘ChatControl’ langs de versleuteling kunnen van diensten als WhatsApp en Signal.
Privacy-experts waarschuwen al vanaf dag één dat deze methode het lovenswaardige doel voorbijschiet. Zo vergeleek privacy-hoogleraar Jaap-Henk Hoepman van de Radboud Universiteit het met het scenario waarin de EU beveiligingscamera’s ophangt in alle Europese huizen om potentieel huiselijk geweld tegen te gaan.
In tegenstelling tot de Commissie en de lidstaten heeft het parlement de kritiek van experts lang overgenomen. Hierdoor verlopen onderhandelingen om tot een akkoord te komen zeer traag.
Als gevolg hiervan is er nog steeds geen permanente wet die duidelijkheid geeft over hoe er in Europese apps gezocht mag worden naar kindermisbruik. Deze permanente wet wordt ook wel ‘ChatControl 2.0’, genoemd, maar in afwachting daarvan was er sinds juni 2021 al een tijdelijke ‘ChatControl 1.0’ van kracht. Deze verliep in april dit jaar.
ChatControl 1.0 is een vrijstelling voor techbedrijven zoals Meta, Microsoft, Google en Snap van bepaalde Europese privacywetten. Met deze vrijstelling mogen deze bedrijven niet-versleutelde berichtendiensten, zoals e-mails of de chatkanalen van Instagram en Snapchat, geautomatiseerd afspeuren naar kinderpornografisch materiaal uit een database van tientallen miljoenen bekende foto’s en video’s.
Ondanks het verlopen van de vrijstelling besloten Meta, Google, Microsoft en Snap door te gaan met het scannen van hun berichtenkanalen, op dat moment dus een overtreding van de wet. Dit stuitte niet op betekenisvolle weerstand vanuit de EU.
Omdat een akkoord tussen de lidstaten en het parlement over ChatControl 2.0 uitbleef, wilden vooral de christendemocraten in het parlement, met het CDA als lid, een verlenging voor ChatControl 1.0. Een meerderheid van het parlement stemde hier in april tegen, maar de christendemocraten wisten het voorstel via een spoedprocedure alsnog op de agenda te zetten.
Het is een hoogst ongebruikelijke gang van zaken, die volgens Europarlementariër Markéta Gregorová van de Groenen ‘de essentie van de democratie op losse schroeven zet’. Zo zijn veel parlementariërs door het aanstaande zomerreces afwezig. Dit maakte het behalen van de absolute meerderheid die nodig is om een spoedprocedure te verwerpen al bij voorbaat onwaarschijnlijk.
Het voorstel dat is aangenomen, is bovendien verruimd ten opzichte van de versie die al was afgewezen: het laat techbedrijven niet alleen scannen naar bekend materiaal, maar staat ze ook toe om met AI te zoeken naar foto’s en video’s die niet in de database met kinderpornografisch materiaal zitten. ChatControl 1.0 geldt door de stemming in het parlement tot ten minste 2028.
‘Dat is waarom wij er zoveel lawaai over maken’, zegt hoogleraar cryptografie Bart Preneel van de KU Leuven. Studies hebben uitgewezen dat wanneer AI zoekt naar bekend materiaal, zij één op de honderdduizend keer een fout maakt. Voor het zoeken naar onbekend materiaal is die foutmarge nog veel hoger.
Als ouders bijvoorbeeld een vakantiefoto van hun kinderen aan het zwembad naar opa en oma sturen, kunnen zij dus bij Europol in een lijstje met mogelijke criminelen terechtkomen. ‘Europeanen versturen dagelijks miljarden berichten’, zegt Preneel. ‘Door de hoge foutenmarge staat dat dus gelijk aan tientallen miljoenen fouten per dag.’
Hoewel ook Preneel direct benadrukt dat het belangrijk is om online kindermisbruik tegen te gaan, ziet hij ChatControl als volkomen buitenproportioneel. Voor niet-versleutelde diensten, waar ChatControl 1.0 dus over gaat, maar al helemaal voor het beoogde ChatControl 2.0, omdat die zelfs de versleuteling van diensten als WhatsApp en Signal ondermijnt.
‘Laten we ook het bredere plaatje niet uit het oog verliezen’, waarschuwt Preneel: het risico bestaat dat ChatControl niet beperkt blijft tot het scannen naar kindermisbruik. Dat gevoelige thema kan worden gebruikt als ‘breekijzer’, denkt Preneel, om surveillance ook voor andere vormen van criminaliteit mogelijk te maken.
Luister hieronder naar onze podcast de Volkskrant Elke Dag. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Geselecteerd door de redactie
Source: Volkskrant