ChatGPT-maker OpenAI overweegt om de ontwikkeling van geavanceerde AI af te remmen 'uit veiligheidsoverwegingen'. Ceo Sam Altman hoopt dat andere AI-bedrijven hetzelfde pad zullen volgen, zeggen bronnen tegen Bloomberg.
Altman deed de uitspraken volgens anonieme bronnen van Bloomberg in een bedrijfsbreed overleg. Altman zegt 'niet zeker te weten of andere AI-bedrijven wel mee willen doen'. Het nieuws volgt nadat meerdere medewerkers van de grote AI-bedrijven zich publiekelijk hebben uitgesproken over de toenemende veiligheidsrisico's van geavanceerde AI-systemen.
Zo schrijft Jacob Coxon, voormalig onderzoeker bij Anthropic, in een post op X: "De mensen die AI ontwikkelen, geloven oprecht dat het tegen het eind van het decennium ons allemaal kan doden. Sterker nog, veel topfunctionarissen en hoofdonderzoekers wikken en wegen hun woorden in de media om verstandig over te komen, maar achter gesloten deuren hoor ik diezelfde mensen hun angst uitspreken. Geen enkele andere menselijke activiteit brengt zoveel gevaar met zich mee."
Evan Hubinger, een belangrijke onderzoeker bij Anthropic, bevestigt Coxons uitspraken: "Jacob heeft gelijk: we geloven oprecht dat AI de gehele mensheid kan doden! Ik geloof zelf dat de kans groter dan tien procent is binnen het volgende decennium. Ik denk dat Anthropic zijn best doet, maar we hebben nog geen plan om alignment voor superintelligentie op te lossen en we liggen duidelijk nog niet op koers."
Gisteren verlieten twee AI-onderzoekers Anthropic en Google vanwege dezelfde zorgen, meldt NBC News. Joe Benton, die leiding gaf aan het veiligheidsonderzoeksteam van Anthropic, zegt dat de snelheid waarmee AI zich ontwikkelt ieder moment 'oncontroleerbaar' kan worden. Josh Engels, die werkte bij het veiligheidsonderzoeksteam van Google, stelt dat er 'geen volwassenen in de kamer zitten'. "Mensen doen hun best, maar er komt niemand om ons te redden."
Zulke grootse uitspraken gebruiken AI-bedrijven vaak als marketingtruc. Ze halen miljarden aan investeringen binnen en verbranden die weer, en hebben er baat bij om hun modellen groter, krachtiger en gevaarlijker voor te stellen dan die zijn. Dat was ook te zien toen OpenAI, Anthropic en Meta moesten toegeven dat hun modellen waren ontsnapt uit slecht geconfigureerde sandboxes. De bedrijven zetten degelijke uitspraken deels in als waarschuwing, maar ook als promotie: "Kijk eens hoe krachtig deze modellen zijn!"
De meeste onderzoekers die nu aan de bel trekken, kiezen ervoor om waarschuwende blogs en tweets te plaatsen. Ze zouden bijvoorbeeld ook servers offline kunnen halen, maar dat gebeurt niet. Daardoor is het maar de vraag hoe serieus die waarschuwingen zijn.
Dat Altman zijn uitspraken niet in het openbaar doet, maar tijdens een bedrijfsbijeenkomst, maakt dit wel anders.
Source: Tweakers.net