Anthropic-CEO Dario Amodei heeft dit weekeinde opgeroepen het rustiger aan te doen met de ontwikkeling van AI. Hij kreeg direct bijval van zijn concurrenten. Waar komt deze oproep vandaan en hoe gemeend is hij?
is journalist bij de Volkskrant.
‘Pacing the frontier’, dat is wat Dario Amodei voorstelt in een essay dat hij zaterdag publiceerde op zijn eigen site. Oftewel: we moeten het tempo verlagen waarmee AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van kunstmatige intelligentie te waarborgen. Opvallend snel kreeg hij steun van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (XAI) voor zijn boodschap.
Amodei’s essay kwam na een week vol opzienbarend AI-nieuws. Eerst stapte een van zijn medewerkers op. Deze Jacob Coxon verweet Anthropic meer oog te hebben voor de wedloop met de concurrentie dan voor veiligheid, en kwam met een scherpe waarschuwing: als AI op hol slaat, zou dat ‘ons nog voor het einde van dit decennium allemaal kunnen doden’.
Daarnaast presenteerde OpenAI de oplossing voor een van de zeven grote wiskundige vraagstukken. Sommigen vierden dit als nieuwe AI-doorbraak, anderen waarschuwden: hoewel het raadsel was opgelost, was de redenering erachter niet duidelijk. Dus wat heb je er dan aan?
Amodei noemt Coxon in zijn essay niet bij naam, noch gaat hij concreet in op de wiskundige doorbraak van OpenAI. Toch uit hij twee zorgen die direct aansluiten bij deze ontwikkelingen.
Ten eerste ziet hij dat AI zichzelf zo snel ontwikkelt met behulp van AI dat het de mens buitenspel zou kunnen zetten. Daarnaast noemt hij de hack van het bedrijf Hugging Face, door 1.200 ‘AI-agents’ van OpenAI. Die gingen ineens hun eigen gang, los van de opdrachten die ze van mensen hadden gekregen.
De schade bij Hugging Face was te overzien, maar Amodei vreest dat zo’n samenwerkend verbond van AI-agents binnen zes tot twaalf maanden het hele internet over zou kunnen nemen. Hij maakt in zijn essay niet concreet waar hij die voorspelling op baseert.
De vraag is nu: hoe oprecht is Amodei’s bezorgdheid?
Volgens AI-veiligheidsonderzoeker Roel Dobbe van de TU Delft past Amodei vooral een beproefde strategie uit Silicon Valley toe, die alles te maken heeft met regulering. Tot voor kort zette de regering van Donald Trump vooral in op zo weinig mogelijk regels voor AI. De laatste tijd zijn zowel Republikeinen als Democraten het erover eens geworden dat er juist meer toezicht moet komen.
‘De grote vraag is wie dat moet gaan vormgeven’, aldus Dobbe. Ook omdat er tussentijdse verkiezingen aankomen in de VS, waarbij de Democraten weleens veel macht kunnen terugpakken. AI-bedrijven voelen volgens de onderzoeker de druk om zelf in te grijpen, zodat ze hun eigen regels zouden kunnen maken.
Er is nog een tweede reden voor de timing van het essay van Amodei, denkt AI-onderzoeker Hannes Cools: Anthropic maakt zich op voor een beursgang. ‘Het ziet zichzelf als meer ethisch AI-bedrijf en wil zich ook zo profileren.’ De mediadynamiek als gevolg van zo’n essay, helpt daarbij.
Daarnaast staat er steeds meer druk op het verdienmodel van AI-bedrijven. Veel van hun modellen waren tot nu toe gratis te gebruiken, maar dat houden ze niet eeuwig vol. Anthropic is nu op een punt gekomen waarop het geld moet gaan vragen voor zijn diensten, terwijl er tegelijkertijd veel goedkopere, lokale alternatieven zijn gekomen.
Een van de manieren om te voorkomen dat klanten die laatste gaan gebruiken, is regelgeving, zegt Dobbe. ‘Ze kunnen aansturen op een verbod van de open modellen en het beheer van ‘betrouwbare’ modellen. Op die manier kunnen ze zich op de lange termijn verankeren.’
Zijn Amodei’s zorgen dan helemaal niet oprecht? Mogelijk wel. Maar, zegt Dobbe: ‘Hij framet deze problemen alsof het gevaar afkomstig is van ‘losgeslagen AI-agents’, terwijl we het zouden moeten hebben over de bedrijven die ze gemaakt hebben en tot nu toe helemaal geen interesse hebben gehad in veiligheid en onafhankelijk toezicht.’
Volgens Dobbe stonden AI-bedrijven tot nu toe niet te springen anderen toe te laten in hun machinekamer. Het onafhankelijke onderzoek naar de hack bij Hugging Face was volgens hem ‘om te huilen, zo slecht en gebrekkig’. Zo kregen onderzoekers zeer beperkte toegang tot informatie van OpenAI.
Amodei stelt in zijn essay juist wel een onafhankelijke controle van AI-bedrijven voor, met dezelfde toegang tot de systemen als een medewerker zou hebben. Dat zou een stap in de goede richting zijn, vindt Dobbe.
Uiteindelijk vindt de TU Delft-onderzoeker dat niet Amodei of een andere techondernemer moet bepalen wat nodig is. Uit zijn eigen onderzoek blijkt dat overheden vaak nog technocentrisch opereren: ‘Europa moet zelf een duidelijke visie ontwikkelen op AI, en daarin niet achter het frame van de industrieleiders aan lopen. Brussel moet de leiding nemen over het waarborgen van de veiligheid van AI, net zoals we dat bijvoorbeeld met luchtvaart doen.’ Het is volgens hem belangrijk om bewust maatschappelijk belang boven het belang van de industrie te plaatsen.
Het debat over regulering zou ook volgens Cools breder gevoerd moeten worden dan alleen door de AI-bazen. Hij denkt daarbij aan werkgroepen op Europees niveau met daarin onderzoekers en bijvoorbeeld burgerorganisaties.
Cools pleit vooral voor een duidelijke verantwoordelijkheid. ‘Het is belangrijk dat techbedrijven incidenten niet zomaar meer kunnen afschuiven op ‘losgeslagen AI-agents’, terwijl we duidelijk kijken naar systemen die te lang ongecontroleerd zijn doorgelopen. Het belangrijke vraagstuk is nu: wie is er aansprakelijk, en hoe verankeren we die verantwoordelijkheid?’
Geselecteerd door de redactie
Source: Volkskrant