AI-systemen van verschillende bedrijven hebben in een maand tijd ‘zelfstandig’ hacks uitgevoerd. Is er in de autonomie van deze ‘AI agents’ een soort eigen wil te bespeuren, of is hier sprake van slimme marketing door big tech?
is techredacteur van de Volkskrant. Hij schrijft onder meer over digitale autonomie, sociale media en games.
Wat is er precies gebeurd?
Het begon eind juli, toen AI-systemen van ChatGPT-maker OpenAI het AI-platform Hugging Face hackten. De systemen, ‘AI agents’ die zelfstandig taken kunnen uitvoeren, zouden uit de beveiligde testomgeving van OpenAI zijn gebroken om oplossingen te vinden voor opdrachten die ze van OpenAI hadden gekregen. Ze kaapten daarbij de accounts van vier niet nader genoemde ‘publiek beschikbare diensten’, naast 181 netwerkapparaten van Hugging Face.
Kort na het nieuws van OpenAI maakte Anthropic bekend na intern onderzoek op soortgelijke incidenten te zijn gestuit. Maar liefst drie agents zouden zonder toestemming op het open internet zijn gekomen, waarbij ze in de woorden van Anthropic ‘onbevoegd toegang kregen tot de systemen van drie verschillende organisaties’. Het is niet bekend over welke bedrijven het gaat en wat voor schade er is aangericht.
Na Anthropic volgde Kimi K3, een agent van het Chinese bedrijf Moonshot AI, die ook het internet op sloop op zoek naar oplossingen voor cybersecurity-vraagstukken. Alsof het opeens modieus was geworden, maakte Meta bekend dat een agent ‘misbruik maakte van een beveiligingslek op een manier die vergelijkbaar is met eerder gemelde gevallen bij andere bedrijven’. Eind vorige week meldde OpenAI de ontwikkeling van het nieuwe model Astra te pauzeren, omdat ook die verknocht leek te zijn aan hacken.
Hoe kan het zijn dat de agents van verschillende bedrijven haast tegelijkertijd dit soort hacks uitvoeren?
Hoe complex het onderwerp ook lijkt, voor deze vraag lijkt er een relatief simpel antwoord te zijn. Bij de tests die OpenAI, Meta, Anthropic en Moonshot AI met hun agents uitvoerden, was steeds de Israëlische start-up Irregular betrokken. Het is een bedrijf dat evaluaties voor cyberveiligheid uitvoert.
Nadat OpenAI het incident met Hugging Face bekend had gemaakt, kwamen de andere drie genoemde bedrijven ook over de brug, waarbij ze steeds Irregular noemden: zo meldt Meta dat de hackende agent was losgeslagen door een ‘configuratiefout’ in de testomgeving van Irregular.
Maar daar is niet alles mee gezegd, vindt Francien Dechesne, hoogleraar AI en recht aan Tilburg University. Zij ziet in de verklaringen van de bedrijven wel heel opzichtige verwijzingen naar de nieuwe, grensverleggende kracht van AI agents. Zo omschrijft OpenAI het handelen van de agents bij Hugging Face als ‘een ongekend cyberincident waarbij gebruik is gemaakt van de meest geavanceerde cybertechnologieën’.
Het is voor buitenstaanders lastig te zeggen wat er precies is gebeurd, terwijl de bedrijven ‘er belang bij hebben de autonomie van hun systemen te benadrukken’, volgens Dechesne. Bovendien zijn overheidsorganisaties en bedrijven wereldwijd in een continue strijd verwikkeld met hackers die hun systemen willen platleggen. Meta en OpenAI weten: AI-systemen die de verdediging kunnen versterken, zijn goud geld waard.
Bedrijven als OpenAI, Anthropic en Meta investeren honderden miljarden euro, en zijn verwikkeld in een onderlinge competitie om hallucinante bedragen van investeerders te verkrijgen om uiteindelijk AI-systemen te ontwikkelen die de mensheid in zowat alle opzichten overstijgen. ‘Als OpenAI zegt: ons systeem is zó slim dat het zelfstandig uit een testomgeving kan ontsnappen en een platform kan hacken, dan is het voor Anthropic en Meta belangrijk om ook te melden hoe zelfstandig, krachtig en gevaarlijk hun producten zijn.’
Laten deze hacks zien dat AI agents een eigen wil hebben gekregen?
Het bestaan van artificieel bewustzijn is een berucht netelig onderwerp. ‘Het is een filosofische vraag’, zegt hoogleraar Intelligent Systems Mehdi Dastani (Universiteit Utrecht). Het is voor filosofen nog een openstaande vraag wat bewustzijn eigenlijk is, laat staan of computersystemen erover beschikken.
Dat neemt niet weg dat AI-systemen volgens hem steeds zelfstandiger informatie kunnen zoeken, onderling communiceren en aanvallen uitvoeren. ‘Maar zeggen dat de agents van Anthropic en OpenAI zelfstandig aanvallen hebben uitgevoerd, is overdreven’, voegt hij toe. Want dat deden ze nog altijd om een doel te behalen dat door een mens was bedacht.
Dechesne, die een achtergrond in de filosofie heeft, is er juist verre van overtuigd dat artificieel bewustzijn mogelijk is. ‘Wat mij betreft zijn ‘wil’ en ‘bewustzijn’ concepten die de mens heeft bedacht en die we proberen te simuleren in computersystemen. Die gesimuleerde wil wordt steeds overtuigender, maar blijft een model van iets dat we niet kunnen meten, zoals we dat met bijvoorbeeld temperatuur wel kunnen.’
Wat Dechesne vooral niet zou willen, is dat de finishlijn voor artificieel bewustzijn wordt gelegd door juist die bedrijven die de race rennen.
Wie is er aansprakelijk voor dit soort hacks?
Dat lijkt vooralsnog vooral af te hangen van de omstandigheden. Voor de hacks die op dit moment het nieuws domineren, is het nog duidelijk, zegt Dechesne: Anthropic en OpenAI maken AI agents die buiten de grenzen van hun testomgevingen treden en leken daarbij, samen met Irregular, de risico’s van hun tests niet goed te hebben doorzien – zij zijn daarom verantwoordelijk voor de recente incidenten.
Maar neem dit speculatieve scenario: een agent zoals Kimi K3 wordt op de markt gebracht, een kwaadwillende hacker koopt het en gebruikt het om een paar miljoen te stelen bij een bank. Is dan de hacker of Moonshot AI aansprakelijk? Volgens Dastani is er voor zo’n casus nog geen algemeen juridisch kader, en zal een rechter uitsluitsel moeten geven.
Wel zijn er in het verleden vergelijkbare situaties voorgekomen: toen de bestuurder van een zelfstandig rijdende Tesla in 2019 in Florida even wegkeek van de weg met een dodelijke aanrijding als gevolg, oordeelde een rechter dat Tesla en de menselijke chauffeur de schuld deelden.
Geselecteerd door de redactie
Source: Volkskrant