is economieredacteur en commentator van de Volkskrant.
De zogenoemde AI-agenten die onlangs ‘uit hun testomgeving ontsnapten’ maken duidelijk dat het tijd is voor stevigere tralies. Voor de bedrijven erachter, welteverstaan.
In het Volkskrant Commentaar wordt het standpunt van de krant verwoord. Het komt tot stand na een discussie tussen de commentatoren en de hoofdredactie.
Dat AI zich kan ontpoppen tot een monster van Frankenstein zit al in het begrip besloten. ‘Kunstmatige intelligentie’: hoeveel duidelijker kun je dit doemscenario hebben? De hackactiviteiten van de laatste weken zijn nog maar het begin.
Tot vier, vijf keer toe wisten ‘agenten’ die bedoeld zijn om zwakke plekken in software op te sporen zich onbevoegd toegang te verschaffen tot de computernetwerken van onwetende slachtoffers. De agenten waren ‘uit hun testomgeving ontsnapt’, lieten de betrokken AI-bedrijven weten, alsof het gevaarlijke wezens zijn die nauwelijks nog in bedwang te houden zijn.
Tijd voor stevigere tralies. Niet voor de AI-agenten, maar voor de bedrijven die ze maken.
Want hoezeer die bedrijven ook de indruk wekken dat we hier te maken hebben met autonome wezens, de autonomie ligt in de eerste en laatste plaats bij hun makers. De filosofische vraag of we hier machines zien met een eigen wil of bewustzijn doet er niet zo toe: het zijn de makers die deze mogelijkheid scheppen.
Vooralsnog zien de AI-bedrijven de ongeremdheid van hun producten als een marketingargument. Zelfs in hun persberichten over het grensoverschrijdende gedrag van hun agenten kloppen ze zich nog op de borst. OpenAI schrijft bijvoorbeeld opgewonden dat er een ‘ongekend cyberincident heeft plaatsgevonden waarbij is gebruikgemaakt van de geavanceerdste cybertechnologieën’.
Let daarbij op de passieve vorm. Er ‘heeft een incident plaatsgevonden’ waarbij ‘is gebruikgemaakt’. Ja, erkennen ze, het was een programma van ons (koop dat spul!) maar verder zijn wij totaal niet betrokken, verantwoordelijk of aansprakelijk voor wat er is gebeurd. Alsof dit een ontwikkeling is waarop ze geen invloed hebben.
Het is de gebruikelijke weglooplafheid van Silicon Valley, bekend van ontelbare rechtszaken, hoorzittingen en onbereikbare woordvoerders na weer een verhaal over de schadelijke (soms dodelijke) invloed van sociale media.
Maar elke machine, ook AI, is mensenwerk. Achter elk monster zit een Frankenstein. Het zijn deze makers, meestal in de vorm van bedrijven, van wie verantwoordelijkheid mag worden verwacht. Of afgedwongen.
Dat eerste lijkt onwaarschijnlijk. Techmiljardairs hebben de afgelopen drie decennia nooit blijk gegeven van een geweten achter hun hebzucht. Inmiddels is duidelijk dat ze op een andere manier in het gareel moeten worden gedwongen.
In de eerste plaats met regulering en certificering. Zoals vliegtuigen uitgebreid worden getest voor ze op de markt worden toegelaten, zo zou ook AI een bewijs van luchtwaardigheid moeten krijgen voor er passagiers meekunnen.
Een tweede teugel is juridisch-financieel. Waarom zou een AI-bedrijf niet aansprakelijk kunnen worden gesteld voor de schade die zijn agenten berokkenen? De aanklaagcultuur van de Verenigde Staten is soms ridicuul, maar bij nieuwe, slecht gereguleerde technologie een uitkomst. De schadevergoeding die Amerikaanse slachtoffers van sociale media vorige week van een rechtbank in New Mexico toegewezen kregen, is daarom hoopvol.
Dat vergt misschien nieuwe wetten die deze aansprakelijkheid ook in Europa scherper stellen. En misschien nieuwe juristen, die het namens ons op durven te nemen tegen de techgiganten.
Nee, AI moet zeker niet verboden worden. Zoals elke technologie heeft ook deze goede kanten. Maar zoals elke technologie moet ook deze haar grenzen kennen. Sue Frankenstein.
Source: Volkskrant