is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
In AI-kringen (en ook wel daarbuiten) gaat het al een week lang over weinig anders: de oproep van prominente AI-ondernemers om de ontwikkeling van kunstmatige intelligentie te vertragen.
De timing van initiatiefnemer Dario Amodei van Anthropic was natuurlijk perfect: zijn essay volgt naadloos op alle commotie rondom hackende AI-agents. Zijn pleidooi om de ontwikkelingen in gezamenlijkheid wat te vertragen werd enthousiast omarmd door zijn grootste concurrenten: Elon Musk van xAI en Sam Altman van OpenAI.
Een zeldzaam staaltje eensgezindheid, concludeerde onder andere The Financial Times. Het andere frame dat vooral blijft hangen: het moet wel erg hard gaan met AI als zélfs de bazen van de AI-bedrijven zeggen dat ze hun eigen AI niet meer vertrouwen.
Tijd voor wat relativering. Allereerst is er weinig nieuws onder de zon. Dat de AI-industrie waarschuwt voor zijn eigen producten klinkt misschien alarmerend, maar is in feite onderdeel van een beproefde strategie. Misschien herinnert u zich nog de wereldwijde oproep voor een pauze op de ontwikkeling van krachtige AI-modellen. Dat was in 2023. Een van de ondertekenaars: Elon Musk.
Die pauze kwam er niet.
Nog wat verder terug dan. In 2019 (in AI-termen een eeuwigheid geleden, ChatGPT kwam pas eind 2022 op de markt) waarschuwde OpenAI voor zijn eigen model GPT2. Het bedrijf bestempelde dit model als zo krachtig dat het risico op misbruik te groot was. Vanwege dat risico besloot OpenAI het model niet aan de buitenwereld prijs te geven. De subtekst: wij maken nu iets dat zó goed is dat we er zelf bang van worden.
Right. Dario was already claiming that GPT2 was too dangerous to open source back in 2019.
I made fun of them then.
Everyone should make fun of them now.
Dat komt bekend voor. Grappig detail is dat de onderzoeksdirecteur in die tijd Dario Amodei was, die later OpenAI zou verlaten om Anthropic op te richten. Je zou anno nu kunnen concluderen dat hij zijn klassiekers kent.
Nog een belangrijke nuance bij zijn oproep: op een complexe manier is Amodei’s pleidooi voor vertraging en meer controle juist in het voordeel van Anthropic, OpenAI en xAI. Alleen grote bedrijven hebben de juridische en financiële middelen om aan de ingewikkelde regels te voldoen of – verplicht – externe veiligheidsexperts in te huren. De kleinere concurrenten zullen afhaken. Ook het feit dat de drie AI-labs gesloten modellen ontwikkelen, waarmee die controle eenvoudiger is, biedt voordeel.
Elk voorstel past zo perfect in Anthropics bedrijfsfilosofie. ‘Graaf een gracht, trek de ladder omhoog en vertel de dorpelingen dat de krokodillen er zijn voor hun bescherming’, vat techsite Venturebeat dit spel samen.
De belangen zijn gigantisch, alleen al vanwege de beursgang die Anthropic nog altijd voorbereidt. Er staan tientallen miljarden op het spel. Elon Musk, die soms ook zinnige dingen zegt, beschrijft het als een indrukwekkend potje 4d-schaken dat Anthropic speelt, door te ‘beweren dat er een kans van 10 procent is dat we de mensheid uitroeien. Maar by the way, hoeveel aandelen zou u in onze beursgang willen hebben?’
Quote of the year — and maybe the decade:
“It’s certainly some crazy 4d chess to say there’s whatever a 10% chance of annhilating humanity. But by the way, um, how much allocation would you like in our IPO?”
[h/t @dee_bosa] https://t.co/z2KVi2PqHx
Geselecteerd door de redactie
Source: Volkskrant