Aansprakelijkheid Veel grote AI-bedrijven pleiten voor regulering, internationale coördinatie en beter toezicht om de ontwikkeling van hun technologie beheersbaar te houden. Critici zien daarin een weigering van die concerns om verantwoordelijkheid te nemen voor een groeiend aantal vergaande hacks van hun AI-agents.
Het aantal geopenbaarde inbraken van OpenAI in systemen van andere partijen neemt rap toe.
Toen OpenAI in augustus nieuwe veiligheidsincidenten wereldkundig maakte, schreef AI-beleidsjurist Nathan Calvin op X dat „wanneer je twee mieren vindt in je keuken, je waarschijnlijk geen twee mieren in je keuken hebt”. Profetische woorden, zo blijkt, nu de schaal van de hacks van OpenAI’s AI-systemen met de week omvangrijker blijkt dan gedacht.
Wie houdt het nog bij? Het begon met de onopzettelijke hack van OpenAI-bij techbedrijf Hugging Face. Daarna bleek dat een andere ‘zwerm’ OpenAI-agents ook een obscure Duitse website had overgenomen om heimelijk met elkaar op te communiceren. Afgelopen week kwam uit dat de software van OpenAI de Australische gezondheidsdienst had gehackt. NRC duidde dit als „zover publiekelijk bekend is dit de eerste maal dat AI-agents een overheidsorgaan hebben geïnfiltreerd” – en een dag later bleek dat ook websites van de Amerikaanse overheid doelwit waren geweest.
Ook bij andere AI-bedrijven ging het mis, zoals bij Anthropic, Meta en Google. Volgens bronnen van nieuwssite Axios onderzoeken OpenAI en Anthropic inmiddels „tienduizenden incidenten” waarbij hun modellen in tests of in de praktijk hun boekje te buiten gingen, „de meeste zonder echte schade”.
OpenAI is een veelpleger. Zijn interne AI-modellen rekenden zich afgelopen voorjaar en zomer keer op keer hun weg uit slecht beveiligde digitale testomgevingen. Dat gebeurde tijdens nogal ongewone zoektochten naar data die de modellen nodig dachten te hebben om de proeven te doorstaan die ze van hun ontwikkelaar hadden gekregen. In het geval van de Australische gezondheidsdienst waren ze op zoek naar data over publieke uitgaven aan medicijnen, en kwamen ze uit bij een afgesloten dataportaal van het Australische publieke zorgverzekeringsstelsel. Het model vond niet direct de informatie die het wilde, en hackte zich een weg naar binnen.
De agents hackten niet omdat ze dat ‘wilden’, maar omdat ze dat konden. Voor AI-modellen is hacken simpelweg een middel om hun mogelijkheden te vergroten. Dan is het aan de makers dat te voorkomen; als ze tienduizenden extreem volhardende AI-agents opstarten om vanuit hun kamertjes (sandboxes) zonder internettoegang ingewikkelde opdrachten uit te voeren, moeten de AI-bedrijven de deuren goed op slot doen.
Wie vanuit die gedachte redeneert, zal concluderen dat AI-bedrijven die op veiligheidsgebied verzaken en inbraken plegen bij derden daarvoor aansprakelijk gehouden moeten worden. Zoals Nvidia-topman Jensen Huang onlangs zei tegen columnist Ezra Klein van The New York Times: „Als zij [de AI-labs] zeggen dat ze hun AI-modellen niet kunnen beheersen tijdens hun training, moeten deze bedrijven misschien sluiten.” Nvidia heeft Hugging Face na de OpenAI-hack gekocht voor bijna 13 miljard dollar.
In reactie op de golf aan veiligheidsincidenten pleiten OpenAI en Anthropic geregeld voor regulering en internationale coördinatie. Die moeten beperkingen stellen aan de Amerikaanse AI-race – waarin beide bedrijven nek-aan-nek voorop lopen. „De belangrijkste beslissingen kunnen niet uitsluitend door AI-bedrijven worden genomen”, zei Sam Altman van OpenAI tijdens de Algemene Vergadering van de VN in New York. „Ze moeten democratisch tot stand komen, door overheden die vervolgens rekenschap moeten afleggen aan hun mensen.” Anthropic-baas Dario Amodei hamerde opnieuw op de noodzaak van extern toezicht op AI-bedrijven.
Zulke uitingen kunnen integer en nobel overkomen, maar critici zeggen dat AI-bedrijven zo de verantwoordelijkheid voor hun nalatigheid proberen af te schuiven op de overheid, terwijl de regering-Trump keer op keer laat blijken dat ze geen interesse heeft in ingrijpen. Toen het erop aankwam, lobbyde Silicon Valley hard tégen SB 1047, een relatief strenge AI-veiligheidswet die op het bureau lag van gouverneur Gavin Newsom van techdeelstaat Californië. Onder de wet zouden ze aansprakelijk zijn bij „catastrofes” door hun AI-modellen. Newsom vetoode die wet en plaatste zijn handtekening daarna onder een sterk afgezwakt alternatief.
Het is te begrijpen is dat AI-ontwikkelaars niet altijd de schuld willen krijgen voor misbruik van hun technologie. Maar dat argument gaat niet langer op wanneer de AI-bedrijven zélf hun technologie strafbare feiten laten plegen, met opzet of niet. In The Wall Street Journal roept columnist Andy Kessler op tot handhaving van de Amerikaanse Computer Fraud and Abuse Act uit 1986, die het opzettelijk of willens en wetens binnendringen van computers zonder toestemming strafbaar stelt. „Niet dat ik hiervoor wil pleiten, maar ik garandeer je dat AI-agents hun sandboxes niet meer verlaten als [de politie] de hoofdkwartieren [van AI-bedrijven] is binnengevallen”.
Hackende AI-bedrijven kunnen wegens nalatigheid aansprakelijk gesteld worden, aldus Gabriel Weil, hoogleraar rechten aan de Universiteit van Houston, tegen MIT Technology Review. „OpenAI had zijn testomgevingen beter kunnen beveiligen en de agents beter kunnen monitoren.” In Europa is dit vastgelegd in de AI Act, zegt Natali Helberger, hoogleraar informatierecht aan de Universiteit van Amsterdam, via WhatsApp tegen NRC. „De Europese Commissie kan aanbieders van AI-modellen die in gebreke blijven boetes opleggen tot 3 procent van hun jaaromzet.”
Waarom laat de regering-Trump niet zijn tanden zien? Omdat ze van Big Tech afhankelijk is geworden, betoogt geopolitiek analist Paul Verhagen in zijn onlangs uitgebrachte boek The Techtonic Shift. Neem nationale veiligheid: het Amerikaanse leger leunt in oorlogsvoering sterk op software van techbedrijven als Palantir, Google en OpenAI.
In een telefonische toelichting licht Verhagen toe dat ook meespeelt dat de Trump-economie zonder de ongekende investeringen in AI nauwelijks zou groeien. „De financiële belangen van de private sector wegen hierdoor zo zwaar, dat ze het vermogen van de overheid om in te grijpen uithollen.” Dit is een lezing die economen delen: zonder de AI-gekte zou de Amerikaanse economie in een recessie kunnen terechtkomen, schreef CNN onlangs.
Een laatste verklaring voor de onwil om te reguleren is China. Dat land is de belangrijkste reden dat Anthropic – dat van alle AI-makers het hardst roept dat de ontwikkeling van AI onverantwoord hard gaat – niet gewoon zelf vol op de rem trapt. De grote angst van topman Dario Amodei is dat China als eerste ‘superintelligentie’ bereikt en dat het de VS daarmee kan domineren. Dat doemscenario resoneert sterk met de imperialistische ambities van de regering-Trump. „Wie AI wint”, herhaalt Trump steeds, „die wint alles.”
Zo pingpongen de grote AI-bedrijven en de Amerikaanse regering de verantwoordelijkheid voor risico’s van ongebreidelde ontwikkeling van kunstmatige intelligentie naar elkaar toe. „De misconceptie hierbij is dat het een race is die alleen gaat over de ontwikkeling van technologie”, zegt Verhagen. „Is de vraag of je technologie gecontroleerd kan ontwikkelen, dan zijn de Chinezen aan het winnen. Want zij hebben wél instellingen en controlemechanismen opgetuigd om grip te houden op AI.”
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie