Volgens AI-bedrijf Anthropic is zijn nieuwe model Mythos een ‘superhacker’ die in razendsnel tempo kwetsbaarheden in software kan opsporen. Het Europees Parlement maakt zich zorgen. Anthropic mocht tekst en uitleg geven, maar kwam niet opdagen.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Loopt Europa niet op een verschrikkelijke manier achter de feiten aan? Met deze vraag op de lippen bevroegen verschillende kritische Europarlementariërs woensdagmiddag de Europese Commissie en het Agentschap van de Europese Unie voor Cyberbeveiliging (Enisa). De aanleiding is het Amerikaanse AI-gereedschap Mythos.
De laatste AI-modellen van bedrijven als Anthropic en OpenAI zijn in staat om razendsnel tempo kwetsbaarheden in software op te sporen. Vooral Anthropics model Mythos veroorzaakt veel onrust onder veiligheidsexperts en overheden.
Het AI-bedrijf noemt zijn model zo krachtig dat het gevaarlijk is om het nu al voor iedereen beschikbaar te stellen. Op dit moment heeft alleen een selecte groep Amerikaanse bedrijven toegang, zodat ze zwakke plekken in hun softwarepakketten kunnen dichten voordat kwaadwillende hackers er misbruik van maken.
Het contrast tussen de geruststellende woorden van vertegenwoordigers van de Europese Commissie en van Enisa-baas Hans de Vries enerzijds en van diverse parlementariërs anderzijds was levensgroot tijdens het debat.
Dertig bezorgde parlementariërs stuurden eerder deze week al een brief aan Eurocommissaris Henna Virkkunen. Hun boodschap: de huidige regels van de Europese Unie zijn ontoereikend om de nieuwe generatie AI-hacktools zoals Mythos het hoofd te kunnen bieden.
Ze zullen na woensdag niet zijn gerustgesteld: de Commissie volhardde in het verhaal dat Europa genoeg wetten en regels heeft op het vlak van AI en cybersecurity. De Vries op zijn beurt benadrukte vooral de positieve kanten van AI-modellen als Mythos. ‘Hou er rekening mee dat dergelijke systemen de cyberbeveiliging enorm kunnen versterken’, aldus De Vries.
Zijn eigen organisatie Enisa heeft zelf geen toegang tot Mythos, gaf hij toe. Wel heeft het agentschap met ‘zeven van de twaalf’ Amerikaanse organisaties gesproken die dat wel hebben. Op basis van hun bevindingen komt De Vries tot de conclusie dat Mythos inderdaad een erg slim systeem is.
VVD-Europarlementariër Bart Groothuis, een van de ondertekenaars van de brief, sprak van een ‘bloedbad’ dat Europa te wachten staat: ‘Ook ik heb met de bedrijven gesproken die toegang hebben. In het eerste weekend vonden ze al duizenden gaten in hun software.’
‘Ons huidige systeem is erop ingericht om vijftig, misschien honderd softwaregaten per jaar te dichten. Niet duizend in één keer. U zegt dat er geen bloedbad zal komen. Leg me eens uit hoe?’ Groothuis benadrukte dat het niet alleen om Mythos gaat, maar ook om allerlei andere opensourcemodellen die eraan komen.
Die zullen nog veel minder goed te controleren zijn dan Mythos van Anthropic. Voor datzelfde waarschuwde Dario Amodei, baas van Anthropic, deze week ook zelf nog. Volgens hem is er geen tijd te verliezen en hebben bedrijven zes tot twaalf maanden de tijd om duizenden lekken te dichten met behulp van Mythos, voordat Chinese AI hetzelfde trucje kan.
Het probleem daarbij is dat Europese bedrijven die toegang tot Mythos niet hebben. Groothuis: ‘Europa zit niet aan tafel.’ Ook Kim van Sparrentak (GroenLinks), die het initiatief voor de hoorzitting nam, maakt zich zorgen: ‘Zelfs als maar de helft van de claims van Anthropic klopt, opent dat de deur naar grootschalige cyberaanvallen. Denk aan banken die gehackt worden, onze transportsystemen die ontregeld raken en ziekenhuizen die zonder stroom komen te zitten.’
Het debat heeft haar niet op andere gedachten gebracht: ‘Je zou toch iets meer blijk van urgentie mogen verwachten bij de Commissie. Helaas viel ze terug op een papieren werkelijkheid, waar volgens de wet veiligheidsproblemen bij belangrijke infrastructuren opgelost moeten zijn.
‘Na deze hoorzitting ben ik bang dat we vooral op de welwillendheid van Anthropic moeten hopen. Het feit dat ze niet eens zijn komen opdagen stemt niet positief.’
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant