Nando Kasteleijn
redacteur Tech
Nando Kasteleijn
redacteur Tech
ChatGPT verraste niet alleen grote techbedrijven, maar ook beleidsmakers. In Europa wordt al ruim twee jaar gewerkt aan wetgeving omtrent AI (kunstmatige intelligentie), maar er was geen rekening gehouden met de snelle ontwikkelingen, dat er zoiets zou kunnen zijn als generatieve AI, een systeem dat zelf tekst of beelden creëert.
Omdat dat die technologie nu al - en de komende jaren helemaal - een grote impact kan hebben op de samenleving, heeft het Europees Parlement nu een begin gemaakt om dat te veranderen. De commissie die de wet behandelde heeft ingestemd met een aangepaste versie van het voorstel dat wél ook over ChatGPT gaat. Daarbij is het heel bijzonder dat dit gebeurt terwijl generatieve AI zich volop aan het ontwikkelen is. Vijf vragen over deze wet.
De AI Act (Wet op Kunstmatige Intelligentie) is heel breed ingestoken. Het overkoepelende idee is om AI-systemen onder te verdelen in risicogroepen. Zie het als een piramide: bovenin zitten systemen die zo'n groot risico met zich meedragen dat ze verboden worden. Een groter deel van de wet gaat over AI-systemen die worden bestempeld als 'hoog risico'.
Daarnaast wordt er gewerkt met een keurmerk. Net zoals dat gebeurt met medicijnen en chemicaliën betekent dit dat 'hoog risico' AI-systemen alleen toegelaten worden op de Europese markt als ze aan bepaalde zaken voldoen.
In het voorstel van de Europese Commissie worden een aantal AI-systemen bij voorbaat al verboden. Het gaat bijvoorbeeld om systemen die het gedrag van mensen beoordeelt en het gebruik van realtime biometrische identificatie, denk aan gezichtsherkenning door opsporingsdiensten, zoals bij het zoeken van een verdachte.
Het parlement wil verdergaan en bijvoorbeeld ook emotieherkenning door politie, aan de grens en op het werk en in het onderwijs verbieden. Een andere belangrijke maatregel is het verbieden van criminaliteits- en fraudevoorspellingen op basis van profilering (denk aan wat er gebeurde bij de toeslagenaffaire).
Kort samengevat gaat het om toepassingen die impact kunnen hebben op de rechten die je als mens hebt, maar ook gezondheid. Dat omvat dus ontzettend veel. Het gaat om systemen die de politie kan gebruiken in het opsporen van verdachten, het scannen van cv's van sollicitanten, of helpt bij de beveiliging van een kernreactor of watervoorzieningen.
Al dat soort systemen worden onderwerpen aan strenge eisen. Ze mogen bijvoorbeeld niet discrimineren, het moet transparant zijn over wat er gebeurt, en het moet altijd duidelijk zijn voor toezichthouders wat er onder motorkap plaatsvindt. Een risicoanalyse wordt verplicht.
Er komt in de wetgeving een aparte plek voor wat foundation models worden genoemd. Zie het als het fundament waarop bijvoorbeeld ChatGPT, maar ook beeldgenerator Midjourney is gebaseerd. Hier overeenstemming over bereiken was nog een hele klus, zegt GroenLinks-Europarlementariër Kim van Sparrentak, een van de onderhandelaren. Ze spreekt van "een gevecht" om sterke verplichtingen voor dit soort toepassingen te krijgen.
De uitkomst, een compromis, is dat de regels bijna net zo streng worden als voor toepassingen die onder 'hoog risico' vallen. De reden dat bijvoorbeeld ChatGPT niet standaard hieronder valt is omdat niet elk systeem dat tekst of een afbeelding genereert automatisch ook extra risico met zich meebrengt, legt van Sparrentak uit. Wel zegt ze dat het makkelijker was geweest als dit wel was gebeurd, ze noemt de regels nu "iets vrijblijvender".
Opvallend genoeg kan ze nog niet zeggen wat de wet gaat specifiek betekenen voor OpenAI's ChatGPT. "Het bedrijf is totaal niet transparant, we weten niet wat ze doen." Ze wijst erop dat er vanaf volgend jaar wel al een transparantieverplichting komt voor de techbedrijven.
Het simpele antwoord: dat is het nog niet. Dit is de eerste stap in een proces dat de komende maanden verdergaat. Maar wel een belangrijk moment, omdat voor het eerst in de wetgeving wordt ingegaan op de modellen waarop generatieve AI is gebaseerd.
Volgende maand volgt een plenaire stemming in het Europees Parlement. Daarna starten beginnen de onderhandelingen met de Raad van de Europese Unie, waarin alle lidstaten zijn vertegenwoordigd. De verwachting is dat de wet begin volgend jaar af is. De implementatie duurt dan nog twee jaar.
Economie
Tech
Deel artikel:
Source: NOS nieuws