AI-modellen ontwikkelen zich razendsnel en de waarschuwingen voor de risico’s ervan nemen ook in rap tempo toe. Volg hier alle ontwikkelingen over de AI-race die techbedrijven hebben ontketend.
Meer weten over AI en tech? Lees hier al onze artikelen.
Zowel Meta-topman Mark Zuckerberg als Jensen Huang (baas van Nvidia) heeft zich gemengd in het debat dat de AI-wereld sinds een paar dagen in haar greep houdt: de roep om een wereldwijde en gecoördineerde AI-pauze.
Het startschot kwam zaterdag van Anthropic-topman Dario Amodei, die in een essay opriep het tempo te verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van AI te waarborgen, aldus Amodei. Hij kreeg bijval van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (xAI).
Maar Zuckerberg en Huang varen een andere koers. Elk AI-bedrijf heeft ‘de verantwoordelijkheid en de motivatie om in het tempo te werken dat nodig is om zijn modellen veilig te trainen’, aldus Zuckerberg op X. Hij ziet niets in een gemeenschappelijke aanpak.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
Dat geldt ook voor Huang. Op een evenement in San Francisco maakte hij duidelijk dat hij niets ziet in regels vanuit de overheid. De keuze tussen snelheid en veiligheid is volgens hem een vals dilemma.
Daarmee zit hij op dezelfde lijn als Donald Trump, die Huang tijdens het evenement ook nog opbelde. Als de VS overgaan tot vertraging is China de grote winnaar, aldus de president.
Laurens Verhagen
De Britse koning Charles III zal donderdag in Schotland spreken met onder meer de bazen van grote AI-bedrijven, zoals Anthropic en OpenAI. Doel van de ontmoeting is bespreken hoe AI op een manier kan worden ingezet om ‘gemeenschappen te versterken en levens te verbeteren’. Dat meldt het Britse koningshuis.
Het bericht komt nadat de afgelopen dagen onder meer bazen van grote AI-bedrijven hun zorgen hadden geuit over de snelle en ongecontroleerde ontwikkeling van AI. Zo schreef Anthropic-baas Dario Amodei zaterdag een essay waarin hij opriep tot meer regulering. Onder anderen X-baas Elon Musk en OpenAI-baas Sam Altman schaarden zich achter de oproep. De vrees is onder meer dat AI-systemen op korte termijn geen mensen meer nodig hebben om zichzelf verder te ontwikkelen.
Het is nog niet duidelijk welke topmannen en -vrouwen precies aanwezig zullen zijn. Wel heeft OpenAI laten weten dat zijn financieel directeur Sarah Friar naar Schotland zal komen. Ook de Britse minister van AI, Kanishka Narayan, neemt deel aan het gesprek, evenals vertegenwoordigers van verschillende door koning Charles opgerichte liefdadigheidsorganisaties.
Yassin Boutayeb
De Amerikaanse president Donald Trump lijkt niet van plan snel meer regels op te leggen aan AI-bedrijven om de ontwikkeling van hun systemen in te tomen. Volgens Trump zijn er ‘veel negatieve krachten’ die waarschuwen voor de risico’s van AI ‘en ze hebben het over dingen die niet zullen gebeuren’.
Op wie Trump precies doelt, is niet bekend. Afgelopen weekend pleitte Anthropic-baas Dario Amodei, gesteund door OpenAI-topman Sam Altman en Elon Musk, ervoor het rustiger aan te doen met de ontwikkeling van AI. Een van Amodei's werknemers, onderzoeker Jacob Coxon, stapte vorige week op omdat AI-bedrijven zouden weten dat hun uitvindingen in potentie de mensheid kunnen vernietigen, maar desondanks op volle kracht doorgaan.
Dat lijkt Trump allemaal overtrokken te vinden, niet in de laatste plaats omdat hij de concurrentie met China belangrijker vindt. De AI-systemen die in de VS worden ontwikkeld zijn volgens Trump nu nog beter dan die in China en ‘eerlijk gezegd wil ik dat zo houden want wie AI wint, wint’. Klokkenluider Coxon pleitte in gesprek met de BBC voor samenwerking tussen de VS en China om AI te reguleren.
Er lijkt vooralsnog weinig politieke overeenstemming in de VS over de noodzaak om AI-bedrijven te reguleren en de manier waarop dat zou moeten gebeuren. De Republikeinse voorzitter van het Huis van Afgevaardigden Mike Johnson zit op de lijn van Trump: ‘We gaan geen wetgeving er doorheen jagen die ons land schaadt en China een voordeel geeft’, aldus Johnson. Toch vindt hij wel dat er ‘enkele vangrails en enkele veiligheidsmaatregelen’ moeten komen.
De hoogste Democraat in het Huis van Afgevaardigden, Hakeem Jeffries, roept op tot ‘daadkrachtig optreden’, zonder uit te leggen welke maatregelen hij specifiek voor ogen heeft.
Joram Bolle
De Chinese inlichtingendienst heeft voor het eerst een publieke verklaring afgegeven over AI en de gevaren ervan. De baas van de inlichtingendienst Chen Yixin zette het Chinese standpunt uiteen in een uitgebreid artikel dat verscheen op eigen sociale media.
Chen ziet zes grote gevaren, schrijft hij, maar dat AI de mogelijkheid heeft om de mensheid te vernietigen, zoals in het Westen wel de vrees is, noemt hij niet. De Chinese spionnenbaas vreest vooral dat generatieve AI zoals deepfakes gebruikt door ‘vijandige krachten en individuen’ een ‘propagandaoorlog en cognitieve oorlog’ kunnen ontketenen tegen China, ‘die direct onze politieke veiligheid, institutionele veiligheid en ideologische veiligheid bedreigt’.
Ook waarschuwt Chen voor AI-modellen van Anthropic en OpenAI die op eigen houtje gaten in de veiligheid van computersystemen kunnen ontdekken en uitbuiten: ‘Cyberveiligheid komt in een nieuwe fase terecht, gekenmerkt door de industrialisering van kwetsbaarheid, volledig geautomatiseerde aanvallen en verdediging en AI versus AI.’
AI-agenten van OpenAI hebben recent bijvoorbeeld systemen gehackt van AI-bedrijf Hugging Face, zonder daartoe de opdracht te hebben gekregen. In april baarde Anthropic opzien toen het nieuwe Mythos-model in staat bleek allerlei onbekende kwetsbaarheden in veiligheidssystemen te kunnen opsporen en uitbuiten. Volgens Chen is er ook een gevaar dat Chinese bedrijven gevoelige gegevens lekken door buitenlandse AI-systemen te gebruiken.
China lijkt weinig te voelen voor het rustiger aan doen met de ontwikkeling van AI en roept op tot meer internationale samenwerking. Die lijkt echter vooral gericht op het behouden van de Chinese positie in de AI-markt. Sommige landen gebruiken het ‘voorwendsel van het handhaven van nationale veiligheid’ om nieuwe AI-technologie te bannen.
In de VS klinken geluiden om Chinese AI-modellen te verbieden. Volgens The Financial Times is dat onderwerp van gesprek in een aankomende top tussen de Amerikaanse president Trump en zijn Chinese ambtgenoot Xi later deze maand.
Joram Bolle
Anthropic-CEO Dario Amodei heeft afgelopen weekend opgeroepen het rustiger aan te doen met de ontwikkeling van AI. Hij kreeg direct bijval van zijn concurrenten. De timing en framing van hun zorgen zijn opmerkelijk.
‘Pacing the frontier’, dat is wat Dario Amodei voorstelt in een essay dat hij zaterdag publiceerde op zijn eigen site. Oftewel: we moeten het tempo verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van kunstmatige intelligentie te waarborgen. Opvallend snel kreeg hij steun van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (XAI) voor zijn boodschap. Amodeis essay kwam na een week vol opzienbarend AI-nieuws.
In dit liveblog houden we u op de hoogte over alle ontwikkelingen in de race om geavanceerde AI-systemen te ontwikkelen en de risico's daarvan. Wat is het gevaar van 'losgeslagen' AI-agenten, hoe reageren overheden en deskundigen, welke marketingstrategieën zitten erachter? U leest het in dit blog.
Source: Volkskrant