Onafhankelijke experts en topmannen van Anthropic en OpenAI pleiten bij de Verenigde Naties voor veiligheidsmaatregelen rond AI. Tegelijk komt naar buiten dat de Australische overheid is gehackt door AI-agenten van OpenAI.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
‘Als AI slecht wordt beheerd, kan dit zelfs een risico vormen voor de mensheid als geheel.’ Anthropic-topman Dario Amodei herhaalde woensdag in New York nog maar eens de apocalyptische woorden die hij onlangs ook al in een essay uitsprak.
Ook zijn grote concurrent Sam Altman van OpenAI liet er geen misverstand over bestaan hoe hij over de risico’s denkt: de mens dreigt controle over de eigen toekomst te verliezen. Samen met politici en vooraanstaande AI-experts zoals Yoshua Bengio spraken ze tijdens de bijeenkomst van de VN-Veiligheidsraad over de risico’s van AI.
Deze was bijeengeroepen door de Franse minister van Buitenlandse Zaken Jean-Noël Barrot. Hij vergeleek de huidige fase van AI met het begin van het atoomtijdperk en zelfs met de computer HAL 9000 uit 2001: A Space Odyssey van Stanley Kubrick. In de filmklassieker komt deze computer in opstand tegen de mens, iets wat pure sciencefiction is.
Een stuk nuchterder was een dag eerder VN-secretaris-generaal António Guterres, die waarschuwde voor concrete gevaren als cyberaanvallen, door AI gefabriceerde misinformatie en autonome wapensystemen.
Zowel Amodei als Altman pleit voor gecoördineerde afspraken. Zo benadrukte Altman dat beslissingen via democratische processen en overheden moeten lopen, en ‘niet alleen door labs in San Francisco’ mogen worden genomen, waarmee hij naar zichzelf wijst. Ook Amodei ijvert voor concrete verboden voor gevaarlijke toepassingen, zoals de ontwikkeling van biologische wapens.
Niet alle onafhankelijke experts zijn overtuigd van hun goede bedoelingen. ‘Stop met aan CEO’s van AI-bedrijven te vragen wat de maatschappij nodig heeft’, betoogde voormalig Europarlementariër Marietje Schaake van Stanford University eerder deze week nog in The Financial Times.
Ze noemt het een ‘spectaculair falen’ van de overheid. ‘Waarom vragen wereldpolitici dezelfde CEO’s om over oplossingen te praten, terwijl ze tegelijkertijd debatteren over de vraag of hun technologie de mensheid ten onder heeft gebracht?’, aldus Schaake.
VN-baas Guterres benadrukte dinsdag dat de landen met de grootste AI-capaciteiten (China en de VS) ‘de grootste verantwoordelijkheid tegenover de mensheid’ dragen. Maar juist deze twee schitteren door afwezigheid.
Trump, die deze week bezoek krijgt van de Chinese leider Xi Jinping, wijst hoe dan ook elk ‘globalistisch controleplan’ voor AI radicaal af. Eerder noemde hij de angst voor AI-risico’s al een ‘hoax’. De VS moet wat hem betreft koste wat het kost de leiding behouden in de race met China.
Het maakt alle oproepen bij de VN bij voorbaat weinig kansrijk. ‘Om het bot te zeggen: de VN staat buitenspel in het debat over AI-veiligheid’, aldus een buitenlandanalist tegenover de New York Times.
Ondertussen blijven er maar details naar buiten komen over veiligheidsincidenten als gevolg van AI-agenten die sites hacken. Volgens het onafhankelijke onderzoekscentrum Transluce hebben AI-agenten van OpenAI in ten minste vier nog niet eerder bekende hacks gepleegd bij overheids- en universiteitswebsites.
De meest in het oog springende hack was die van de Australische overheid. In juni voerden de AI-agenten opdrachten uit om gegevens te verzamelen over uitgaven aan de gezondheidszorg. Nadat ze herhaaldelijk waren geblokkeerd door de beveiliging van de website van het Australian Institute of Health and Welfare, zochten ze alternatieve routes en wisten door te dringen tot niet-openbare delen van het portaal.
Het gaat niet om gevoelige gegevens, benadrukt de Australische premier Albanese. Toch is hij ernstig ontstemd vanwege de lakse houding van OpenAI, dat de Australische overheid pas recent op de hoogte bracht van de hack. Dat gebeurde via een mailtje naar de algemene mailbox. In een gesprek met Altman heeft Albanese zijn ‘extreme bezorgdheid’ uitgesproken.
Ook Erik de Jong van cybersecuritybedrijf Tesorion windt zich op: ‘Ik word echt kwaad van die terugkerende incompetentie van deze bedrijven. Zowel het gebrek aan communicatie als het feit dat ze veel te laat doorhebben dat er iets fout gaat, is amateuristisch.’ Op systemen binnendringen waar je niet hoort te zijn, is in de meeste landen strafbaar, benadrukt hij.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant