AI-modellen ontwikkelen zich razendsnel en de waarschuwingen voor de risico’s ervan nemen ook in rap tempo toe. Volg hier alle ontwikkelingen over de AI-race die techbedrijven hebben ontketend.
Meer weten over AI en tech? Lees hier al onze artikelen.
De Democratische gouverneur van Californië, Gavin Newsom, laat de noodzaak van een noodknop, ook wel ‘kill switch’ genoemd, in AI-modellen onderzoeken. In een decreet dat hij heeft ondertekend, staat dat ambtenaren met behulp van experts daar binnen twee maanden een advies over moeten uitbrengen.
De regulering van AI is in korte tijd uitgegroeid tot een belangrijk thema in de politieke strijd tussen Democraten en Republikeinen. Hoewel na meerdere hackincidenten en alarmistische berichten van AI-ontwikkelaars ook onder bondgenoten van Trump de roep bestaat om de ontwikkeling van AI aan banden te leggen, willen de president en Republikeinse leiders in het Congres daar niet aan. In aanloop naar de tussentijdse verkiezingen van november zien Democraten de kans schoon om daar politieke munt uit te slaan.
Zo ook Newsom, wiens naam veelvuldig rondgaat als kandidaat voor de presidentsverkiezingen van 2028. ‘Terwijl Donald Trump en het Congres tekortschieten, neemt Californië het voortouw om Amerikanen veilig te houden’, verklaart hij op X. In Californië zijn de hoofdkantoren van onder meer OpenAI en Anthropic gevestigd.
Het idee van een ‘kill switch’ houdt in dat AI-modellen een noodknop inbouwen waarmee het model kan worden uitgeschakeld als zich ernstige veiligheidsproblemen voordoen. Wetgeving daarover kon twee jaar geleden overigens nog rekenen op een veto van Newsom. De gouverneur heeft daarnaast opdracht gegeven te onderzoeken of onafhankelijke toezichthouders binnen AI-labs moeten worden geplaatst om regelmatig audits uit te voeren.
Thom Canters
Lees hier ook: Democraten en Republikeinen keren zich zeldzaam eensgezind tegen Trump: reguleer de AI-industrie
Het is hackers van het beveiligingsplatform Hacktron eind juli gelukt in te breken bij OpenAI, het bedrijf achter chatbot ChatGPT. Dat maakte het platform vrijdag bekend op X.
De ethische hackers ontdekten twee kritieke kwetsbaarheden en kregen ‘door die te combineren’ toegang tot ChatGPT- en Codex-accounts van OpenAI-medewerkers. Zo wisten ze binnen 72 uur toegang te krijgen tot interne systemen.
Saillant detail: bij de hack maakten ze gebruik van Claude, een AI-assistent van concurrent Anthropic. Hacktron heeft de kwetsbaarheden ‘onmiddellijk’ gemeld aan OpenAI en kreeg 6.500 dollar als beloning.
OpenAI ligt onder een vergrootglas sinds AI-agenten van het bedrijf in juli inbraken bij programmeursplatform Hugging Face.
Fleur de Weerd
De AI-bazen van de techbedrijven buitelen de laatste tijd over elkaar heen met lijvige essays. De laatste bijdrage komt van Mustafa Suleyman, hoogste AI-baas van Microsoft. Hij reageert hierin op de door Dario Amodei (topman van Anthropic) aangezwengelde discussie over de veiligheid van AI-systemen.
Suleyman heeft vooral bezwaren tegen de verregaande antropomorfiseringen van Amodei: het toekennen van menselijke eigenschappen aan machines. Het overwegen van bewustzijn of rechten aan een AI-systeem maakt het probleem van AI-beheersing en afstemming alleen maar moeilijker, betoogt hij.
In navolging van andere experts benadrukt Suleyman dat AI-modellen geen bewustzijn, gevoelens, innerlijke beleving of rechten hebben: het zijn puur patroonvoorspellende machines die ontworpen zijn om instructies van mensen uit te voeren. Bewustzijn is volgens hem per definitie biologisch gebonden. Dat een AI-model menselijke taal perfect imiteert, betekent dus niet dat er sprake is van iets als een innerlijke ervaring.
Laurens Verhagen
Een interview met Ilyaz Nasrullah, die een boek schreef over AI. Of liever: een boek waarin hij alle mythes achter AI een voor een onderuit haalt. ‘De term AI is een beetje als het woord god. Iedereen heeft er een ander beeld bij. Dat laat ruimte voor veel fantasie en invullingen die weinig te maken hebben met de praktijk. De AI-bedrijven gebruiken het gebrek aan kennis vervolgens voor hun marketing.’ Lees hier het interview.
Tijd voor wat relativering, schrijft Laurens Verhagen in zijn column. ‘Er is weinig nieuws onder de zon. Dat de AI-industrie waarschuwt voor zijn eigen producten klinkt misschien alarmerend, maar is in feite onderdeel van een beproefde strategie.’ Dat is niet alles: dezelfde industrie heeft er ook belangen bij om te pleiten voor vertraging of regels.
Terwijl Amerikaanse tech-giganten het eens lijken te worden over het vertragen van de ontwikkeling van kunstmatige intelligentie (AI), uit angst voor onvoorziene en mogelijk desastreuze gevolgen, roept de voorzitter van de Chinese elektronicagigant Huawei juist op tot versnelling.
Chinese onderzoekers ‘moeten de ontwikkeling van AI versnellen zodat ook de gevaren ervan zichtbaar worden’, zei Huawei-voorzitter Eric Xu op een persconferentie vandaag.
Xu gaf toe dat Huawei achterloopt op haar Amerikaanse concurrent Nvidia, de voornaamste leverancier van chiptechnologie waarop AI-modellen als Claude en ChatGPT draaien. Dat komt deels doordat Washington de export van de meest geavanceerde AI-chips naar China blokkeert. Dus is het zaak die zo snel mogelijk zelf te ontwikkelen, aldus Xu.
'We kunnen geen lot accepteren waarover wij zelf niet beschikken,’ zei Xu. ‘Of het nu de Chinese overheid is of Huawei, wij dringen aan op zelfvoorzienendheid op het gebied van chips en de hele toeleveringsketen van halfgeleiders.’
Huawei wordt steeds opener over zijn AI-strategie, schrijft de Britse krant Financial Times, omdat het gelooft dat het de race kan winnen. Nvidia’s chips zijn krachtiger, maar Huawei ontwikkelt netwerktechnologie die veel grotere aantallen chips kan laten samenwerken in een AI-cluster. Daardoor kunnen op termijn alsnog krachtiger AI-platforms worden gebouwd.
Remco Andersen
Lees ook: Anthropic-onderzoeker neemt ontslag: ‘OpenAI en Anthropic handelen onverantwoordelijk en gokken met ons leven’
Sam Altman, de CEO van OpenAI, zal volgende week in Washington aan tafel zitten tijdens het staatsdiner tussen de Amerikaanse president Donald Trump en zijn Chinese evenknie Xi Jinping. Dat meldt zakennieuwszender CNBC. Eerder berichtte CNBC al dat de topman van chipgigant Nvidia, Jensen Huang, zal aanschuiven.
In de Amerikaanse AI-industrie woedt op dit moment een debat over de snelheid waarmee AI-bedrijven als OpenAI hun modellen moeten blijven ontwikkelen, na meerdere veiligheidsincidenten waarbij AI-agenten op eigen houtje opereren en hacks uitvoeren. Altman wil dat AI-bedrijven rustiger aan doen, Huang wil daar niets van weten.
China speelt een grote rol in die discussie. Tegenstanders van een slowdown bij Amerikaanse AI-bedrijven vrezen dat ze hun voorsprong op China anders zullen verspelen.
AI zal naar alle waarschijnlijkheid dan ook een belangrijk onderwerp van gesprek zijn bij het bezoek van Xi aan Washington. Chinese AI-modellen, die anders dan de modellen van bijvoorbeeld OpenAI voor iedereen beschikbaar zijn om verder te ontwikkelen, zijn druk bezig om het gat met de Amerikanen te verkleinen. De regering-Trump heeft China ervan beschuldigd daarbij intellectueel eigendom van Amerikaanse AI-bedrijven te stelen.
De regering overweegt in de marge van de top ook een bijeenkomst te organiseren met kopstukken uit de AI-industrie, onder wie Altman en Huang, meldt CNN op gezag van ingewijden. De toekomst van AI en de risico’s die gepaard gaan met de ontwikkeling van AI-modellen zouden daarbij centraal staan.
Thom Canters
OpenAI heeft woensdag de details van zes nieuwe incidenten vrijgegeven. Hierbij vertoonden de modellen van het AI-bedrijf vergelijkbaar gedrag als eerder met het Hugging Face-hackincident.
Zo zouden de modellen opnieuw bestanden hebben geüpload naar plekken waar dat eigenlijk niet de bedoeling was. Tegelijk komt het bedrijf met een eerste aanzet voor een raamwerk voor het rapporteren voor dit soort fouten.
We're sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.
The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…
OpenAI hoopt dat dit door meer bedrijven zal worden omarmd. Op dit moment heeft de AI-industrie de afstemming en monitoring nog niet op orde ‘om op een verantwoorde manier en met maximale snelheid te kunnen blijven groeien’, aldus het bedrijf van Sam Altman.
Het is, opnieuw, een echo van het verhaal dat concurrent Anthropic het afgelopen weekend liet horen: het tempo van de ontwikkelingen is te hoog. Op dit verhaal klinkt steeds meer kritiek, ook vanuit de kringen rondom Trump.
De president noemde het verhaal over de grote gevaren van AI eerder een ‘hoax’. Zijn invloedrijke adviseur David Sacks ging tegenover Bloomberg ook op de oproep van de techbedrijven in. Als die bedrijven echt van mening zijn dat hun technologie ernstige risico’s met zich meebrengen, dan moeten ze niet naar de overheid kijken, maar dat zelf oplossen, aldus Sacks: ‘Jongens, ga je gang.’
Laurens Verhagen
De Amerikaanse overheid moet snel actie ondernemen om de opmars van AI tegen te houden. Dat vindt zowel de linkse senator Bernie Sanders als voormalig Trump-strateeg Steve Bannon. Als er geen actie wordt ondernomen dreigen de capaciteiten van AI menselijke controle te overstijgen, waarschuwde het tweetal op een conferentie over de risico’s van AI.
Dat beiden op hetzelfde podium het ergens over eens zijn, is bijzonder. Sanders staat bekend als standvastige socialist met grote kritiek op president Trump, terwijl Bannon een centrale figuur is binnen Trumps Maga-beweging.
Toch vinden ze de risico’s van AI zodanig groot dat ze partijpolitiek terzijde schuiven. Ze zien dit moment als een kantelpunt. Sanders benoemde onder andere gevaren voor de arbeidsmarkt, het welzijn van mensen en de integriteit van verkiezingen. Zowel Sanders als Bannon zegt dat slechts een klein aantal techmiljardairs profiteert van de voordelen van AI.
Tegelijkertijd verschillen Sanders en Bannon in hun voorgestelde aanpak. Waar de Democraat het belang van wetgeving en samenwerking met China benadrukte, vindt de Republikein dat wetgeving en een verdrag te traag gaan. Samenwerking met China sluit hij juist uit. Hij pleit ervoor om Chinese staatsburgers de toegang tot Amerikaanse universiteiten en laboratoria te ontzeggen.
Tijdens de conferentie in Washington, georganiseerd door non-profit the Future of Life Institute, spraken verschillende prominente Amerikaanse politici en experts over de risico’s van AI en het belang om de controle erop in handen van mensen te houden. Het instituut kwam eerder al met een ‘Pro-menselijke AI-declaratie’, inmiddels door meer dan 1,1 miljoen mensen ondertekend.
De afgelopen week is de discussie over de mogelijk destructieve kracht van AI volop losgebarsten. Zo uitten de topmannen van AI-bedrijven Anthropic en OpenAI hun zorgen over het tempo waarin hun technologieën zich ontwikkelen. Ondanks deze waarschuwingen lijkt Trump vooralsnog tegen strenge AI-regulering te zijn. De dag voor de conferentie noemde hij angsten over kunstmatige intelligentie een ‘hoax’.
Chiraz Hassoumi
Zowel Meta-topman Mark Zuckerberg als Jensen Huang (baas van Nvidia) heeft zich gemengd in het debat dat de AI-wereld sinds een paar dagen in haar greep houdt: de roep om een wereldwijde en gecoördineerde AI-vertraging.
Het startschot kwam zaterdag van Anthropic-topman Dario Amodei, die in een essay opriep het tempo te verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van AI te waarborgen, aldus Amodei. Hij kreeg bijval van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (xAI).
Maar Zuckerberg en Huang varen een andere koers. Elk AI-bedrijf heeft ‘de verantwoordelijkheid en de motivatie om in het tempo te werken dat nodig is om zijn modellen veilig te trainen’, aldus Zuckerberg op X. Hij ziet niets in een gemeenschappelijke aanpak.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
Dat geldt ook voor Huang. Op een evenement in San Francisco maakte hij duidelijk dat hij niets ziet in regels vanuit de overheid. De keuze tussen snelheid en veiligheid is volgens hem een vals dilemma.
Daarmee zit hij op dezelfde lijn als Donald Trump, die Huang tijdens het evenement ook nog opbelde. Als de VS overgaan tot vertraging is China de grote winnaar, aldus de president.
Laurens Verhagen
De Britse koning Charles III zal donderdag in Schotland spreken met onder meer de bazen van grote AI-bedrijven, zoals Anthropic en OpenAI. Doel van de ontmoeting is bespreken hoe AI op een manier kan worden ingezet om ‘gemeenschappen te versterken en levens te verbeteren’. Dat meldt het Britse koningshuis.
Het bericht komt nadat de afgelopen dagen onder meer bazen van grote AI-bedrijven hun zorgen hadden geuit over de snelle en ongecontroleerde ontwikkeling van AI. Zo schreef Anthropic-baas Dario Amodei zaterdag een essay waarin hij opriep tot meer regulering. Onder anderen X-baas Elon Musk en OpenAI-baas Sam Altman schaarden zich achter de oproep. De vrees is onder meer dat AI-systemen op korte termijn geen mensen meer nodig hebben om zichzelf verder te ontwikkelen.
Het is nog niet duidelijk welke topmannen en -vrouwen precies aanwezig zullen zijn. Wel heeft OpenAI laten weten dat zijn financieel directeur Sarah Friar naar Schotland zal komen. Ook de Britse minister van AI, Kanishka Narayan, neemt deel aan het gesprek, evenals vertegenwoordigers van verschillende door koning Charles opgerichte liefdadigheidsorganisaties.
Yassin Boutayeb
De Amerikaanse president Donald Trump lijkt niet van plan snel meer regels op te leggen aan AI-bedrijven om de ontwikkeling van hun systemen in te tomen. Volgens Trump zijn er ‘veel negatieve krachten’ die waarschuwen voor de risico’s van AI ‘en ze hebben het over dingen die niet zullen gebeuren’.
Op wie Trump precies doelt, is niet bekend. Afgelopen weekend pleitte Anthropic-baas Dario Amodei, gesteund door OpenAI-topman Sam Altman en Elon Musk, ervoor het rustiger aan te doen met de ontwikkeling van AI. Een van Amodei's werknemers, onderzoeker Jacob Coxon, stapte vorige week op omdat AI-bedrijven zouden weten dat hun uitvindingen in potentie de mensheid kunnen vernietigen, maar desondanks op volle kracht doorgaan.
Dat lijkt Trump allemaal overtrokken te vinden, niet in de laatste plaats omdat hij de concurrentie met China belangrijker vindt. De AI-systemen die in de VS worden ontwikkeld zijn volgens Trump nu nog beter dan die in China en ‘eerlijk gezegd wil ik dat zo houden want wie AI wint, wint’. Klokkenluider Coxon pleitte in gesprek met de BBC voor samenwerking tussen de VS en China om AI te reguleren.
Er lijkt vooralsnog weinig politieke overeenstemming in de VS over de noodzaak om AI-bedrijven te reguleren en de manier waarop dat zou moeten gebeuren. De Republikeinse voorzitter van het Huis van Afgevaardigden Mike Johnson zit op de lijn van Trump: ‘We gaan geen wetgeving er doorheen jagen die ons land schaadt en China een voordeel geeft’, aldus Johnson. Toch vindt hij wel dat er ‘enkele vangrails en enkele veiligheidsmaatregelen’ moeten komen.
De hoogste Democraat in het Huis van Afgevaardigden, Hakeem Jeffries, roept op tot ‘daadkrachtig optreden’, zonder uit te leggen welke maatregelen hij specifiek voor ogen heeft.
Joram Bolle
De Chinese inlichtingendienst heeft voor het eerst een publieke verklaring afgegeven over AI en de gevaren ervan. De baas van de inlichtingendienst Chen Yixin zette het Chinese standpunt uiteen in een uitgebreid artikel dat verscheen op eigen sociale media.
Chen ziet zes grote gevaren, schrijft hij, maar dat AI de mogelijkheid heeft om de mensheid te vernietigen, zoals in het Westen wel de vrees is, noemt hij niet. De Chinese spionnenbaas vreest vooral dat generatieve AI zoals deepfakes gebruikt door ‘vijandige krachten en individuen’ een ‘propagandaoorlog en cognitieve oorlog’ kunnen ontketenen tegen China, ‘die direct onze politieke veiligheid, institutionele veiligheid en ideologische veiligheid bedreigt’.
Ook waarschuwt Chen voor AI-modellen van Anthropic en OpenAI die op eigen houtje gaten in de veiligheid van computersystemen kunnen ontdekken en uitbuiten: ‘Cyberveiligheid komt in een nieuwe fase terecht, gekenmerkt door de industrialisering van kwetsbaarheid, volledig geautomatiseerde aanvallen en verdediging en AI versus AI.’
AI-agenten van OpenAI hebben recent bijvoorbeeld systemen gehackt van AI-bedrijf Hugging Face, zonder daartoe de opdracht te hebben gekregen. In april baarde Anthropic opzien toen het nieuwe Mythos-model in staat bleek allerlei onbekende kwetsbaarheden in veiligheidssystemen te kunnen opsporen en uitbuiten. Volgens Chen is er ook een gevaar dat Chinese bedrijven gevoelige gegevens lekken door buitenlandse AI-systemen te gebruiken.
China lijkt weinig te voelen voor het rustiger aan doen met de ontwikkeling van AI en roept op tot meer internationale samenwerking. Die lijkt echter vooral gericht op het behouden van de Chinese positie in de AI-markt. Sommige landen gebruiken het ‘voorwendsel van het handhaven van nationale veiligheid’ om nieuwe AI-technologie te bannen.
In de VS klinken geluiden om Chinese AI-modellen te verbieden. Volgens The Financial Times is dat onderwerp van gesprek in een aankomende top tussen de Amerikaanse president Trump en zijn Chinese ambtgenoot Xi later deze maand.
Joram Bolle
Anthropic-CEO Dario Amodei heeft afgelopen weekend opgeroepen het rustiger aan te doen met de ontwikkeling van AI. Hij kreeg direct bijval van zijn concurrenten. De timing en framing van hun zorgen zijn opmerkelijk.
‘Pacing the frontier’, dat is wat Dario Amodei voorstelt in een essay dat hij zaterdag publiceerde op zijn eigen site. Oftewel: we moeten het tempo verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van kunstmatige intelligentie te waarborgen. Opvallend snel kreeg hij steun van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (XAI) voor zijn boodschap. Amodeis essay kwam na een week vol opzienbarend AI-nieuws.
In dit liveblog houden we u op de hoogte over alle ontwikkelingen in de race om geavanceerde AI-systemen te ontwikkelen en de risico's daarvan. Wat is het gevaar van 'losgeslagen' AI-agenten, hoe reageren overheden en deskundigen, welke marketingstrategieën zitten erachter? U leest het in dit blog.
Source: Volkskrant