AI-modellen ontwikkelen zich razendsnel en de waarschuwingen voor de risico’s ervan nemen ook in rap tempo toe. Volg hier alle ontwikkelingen over de AI-race die techbedrijven hebben ontketend.
Meer weten over AI en tech? Lees hier al onze artikelen.
Terwijl Amerikaanse tech-giganten het eens lijken te worden over het vertragen van de ontwikkeling van kunstmatige intelligentie (AI), uit angst voor onvoorziene en mogelijk desastreuze gevolgen, roept de voorzitter van de Chinese elektronicagigant Huawei juist op tot versnelling.
Chinese onderzoekers ‘moeten de ontwikkeling van AI versnellen zodat ook de gevaren ervan zichtbaar worden’, zei Huawei-voorzitter Eric Xu op een persconferentie vandaag.
Xu gaf toe dat Huawei achterloopt op haar Amerikaanse concurrent Nvidia, de voornaamste leverancier van chiptechnologie waarop AI-modellen als Claude en ChatGPT draaien. Dat komt deels doordat Washington de export van de meest geavanceerde AI-chips naar China blokkeert. Dus is het zaak die zo snel mogelijk zelf te ontwikkelen, aldus Xu.
'We kunnen geen lot accepteren waarover wij zelf niet beschikken,’ zei Xu. ‘Of het nu de Chinese overheid is of Huawei, wij dringen aan op zelfvoorzienendheid op het gebied van chips en de hele toeleveringsketen van halfgeleiders.’
Huawei wordt steeds opener over zijn AI-strategie, schrijft de Britse krant Financial Times, omdat het gelooft dat het de race kan winnen. Nvidia’s chips zijn krachtiger, maar Huawei ontwikkelt netwerktechnologie die veel grotere aantallen chips kan laten samenwerken in een AI-cluster. Daardoor kunnen op termijn alsnog krachtiger AI-platforms worden gebouwd.
Remco Andersen
Lees ook: Anthropic-onderzoeker neemt ontslag: ‘OpenAI en Anthropic handelen onverantwoordelijk en gokken met ons leven’
Sam Altman, de CEO van OpenAI, zal volgende week in Washington aan tafel zitten tijdens het staatsdiner tussen de Amerikaanse president Donald Trump en zijn Chinese evenknie Xi Jinping. Dat meldt zakennieuwszender CNBC. Eerder berichtte CNBC al dat de topman van chipgigant Nvidia, Jensen Huang, zal aanschuiven.
In de Amerikaanse AI-industrie woedt op dit moment een debat over de snelheid waarmee AI-bedrijven als OpenAI hun modellen moeten blijven ontwikkelen, na meerdere veiligheidsincidenten waarbij AI-agenten op eigen houtje opereren en hacks uitvoeren. Altman wil dat AI-bedrijven rustiger aan doen, Huang wil daar niets van weten.
China speelt een grote rol in die discussie. Tegenstanders van een slowdown bij Amerikaanse AI-bedrijven vrezen dat ze hun voorsprong op China anders zullen verspelen.
AI zal naar alle waarschijnlijkheid dan ook een belangrijk onderwerp van gesprek zijn bij het bezoek van Xi aan Washington. Chinese AI-modellen, die anders dan de modellen van bijvoorbeeld OpenAI voor iedereen beschikbaar zijn om verder te ontwikkelen, zijn druk bezig om het gat met de Amerikanen te verkleinen. De regering-Trump heeft China ervan beschuldigd daarbij intellectueel eigendom van Amerikaanse AI-bedrijven te stelen.
De regering overweegt in de marge van de top ook een bijeenkomst te organiseren met kopstukken uit de AI-industrie, onder wie Altman en Huang, meldt CNN op gezag van ingewijden. De toekomst van AI en de risico’s die gepaard gaan met de ontwikkeling van AI-modellen zouden daarbij centraal staan.
Thom Canters
OpenAI heeft woensdag de details van zes nieuwe incidenten vrijgegeven. Hierbij vertoonden de modellen van het AI-bedrijf vergelijkbaar gedrag als eerder met het Hugging Face-hackincident.
Zo zouden de modellen opnieuw bestanden hebben geüpload naar plekken waar dat eigenlijk niet de bedoeling was. Tegelijk komt het bedrijf met een eerste aanzet voor een raamwerk voor het rapporteren voor dit soort fouten.
We're sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.
The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…
OpenAI hoopt dat dit door meer bedrijven zal worden omarmd. Op dit moment heeft de AI-industrie de afstemming en monitoring nog niet op orde ‘om op een verantwoorde manier en met maximale snelheid te kunnen blijven groeien’, aldus het bedrijf van Sam Altman.
Het is, opnieuw, een echo van het verhaal dat concurrent Anthropic het afgelopen weekend liet horen: het tempo van de ontwikkelingen is te hoog. Op dit verhaal klinkt steeds meer kritiek, ook vanuit de kringen rondom Trump.
De president noemde het verhaal over de grote gevaren van AI eerder een ‘hoax’. Zijn invloedrijke adviseur David Sacks ging tegenover Bloomberg ook op de oproep van de techbedrijven in. Als die bedrijven echt van mening zijn dat hun technologie ernstige risico’s met zich meebrengen, dan moeten ze niet naar de overheid kijken, maar dat zelf oplossen, aldus Sacks: ‘Jongens, ga je gang.’
Laurens Verhagen
De Amerikaanse overheid moet snel actie ondernemen om de opmars van AI tegen te houden. Dat vindt zowel de linkse senator Bernie Sanders als voormalig Trump-strateeg Steve Bannon. Als er geen actie wordt ondernomen dreigen de capaciteiten van AI menselijke controle te overstijgen, waarschuwde het tweetal op een conferentie over de risico’s van AI.
Dat beiden op hetzelfde podium het ergens over eens zijn, is bijzonder. Sanders staat bekend als standvastige socialist met grote kritiek op president Trump, terwijl Bannon een centrale figuur is binnen Trumps Maga-beweging.
Toch vinden ze de risico’s van AI zodanig groot dat ze partijpolitiek terzijde schuiven. Ze zien dit moment als een kantelpunt. Sanders benoemde onder andere gevaren voor de arbeidsmarkt, het welzijn van mensen en de integriteit van verkiezingen. Zowel Sanders als Bannon zegt dat slechts een klein aantal techmiljardairs profiteert van de voordelen van AI.
Tegelijkertijd verschillen Sanders en Bannon in hun voorgestelde aanpak. Waar de Democraat het belang van wetgeving en samenwerking met China benadrukte, vindt de Republikein dat wetgeving en een verdrag te traag gaan. Samenwerking met China sluit hij juist uit. Hij pleit ervoor om Chinese staatsburgers de toegang tot Amerikaanse universiteiten en laboratoria te ontzeggen.
Tijdens de conferentie in Washington, georganiseerd door non-profit the Future of Life Institute, spraken verschillende prominente Amerikaanse politici en experts over de risico’s van AI en het belang om de controle erop in handen van mensen te houden. Het instituut kwam eerder al met een ‘Pro-menselijke AI-declaratie’, inmiddels door meer dan 1,1 miljoen mensen ondertekend.
De afgelopen week is de discussie over de mogelijk destructieve kracht van AI volop losgebarsten. Zo uitten de topmannen van AI-bedrijven Anthropic en OpenAI hun zorgen over het tempo waarin hun technologieën zich ontwikkelen. Ondanks deze waarschuwingen lijkt Trump vooralsnog tegen strenge AI-regulering te zijn. De dag voor de conferentie noemde hij angsten over kunstmatige intelligentie een ‘hoax’.
Chiraz Hassoumi
Zowel Meta-topman Mark Zuckerberg als Jensen Huang (baas van Nvidia) heeft zich gemengd in het debat dat de AI-wereld sinds een paar dagen in haar greep houdt: de roep om een wereldwijde en gecoördineerde AI-vertraging.
Het startschot kwam zaterdag van Anthropic-topman Dario Amodei, die in een essay opriep het tempo te verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van AI te waarborgen, aldus Amodei. Hij kreeg bijval van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (xAI).
Maar Zuckerberg en Huang varen een andere koers. Elk AI-bedrijf heeft ‘de verantwoordelijkheid en de motivatie om in het tempo te werken dat nodig is om zijn modellen veilig te trainen’, aldus Zuckerberg op X. Hij ziet niets in een gemeenschappelijke aanpak.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/1KtONlqBs5
Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens.
The…
Dat geldt ook voor Huang. Op een evenement in San Francisco maakte hij duidelijk dat hij niets ziet in regels vanuit de overheid. De keuze tussen snelheid en veiligheid is volgens hem een vals dilemma.
Daarmee zit hij op dezelfde lijn als Donald Trump, die Huang tijdens het evenement ook nog opbelde. Als de VS overgaan tot vertraging is China de grote winnaar, aldus de president.
Laurens Verhagen
De Britse koning Charles III zal donderdag in Schotland spreken met onder meer de bazen van grote AI-bedrijven, zoals Anthropic en OpenAI. Doel van de ontmoeting is bespreken hoe AI op een manier kan worden ingezet om ‘gemeenschappen te versterken en levens te verbeteren’. Dat meldt het Britse koningshuis.
Het bericht komt nadat de afgelopen dagen onder meer bazen van grote AI-bedrijven hun zorgen hadden geuit over de snelle en ongecontroleerde ontwikkeling van AI. Zo schreef Anthropic-baas Dario Amodei zaterdag een essay waarin hij opriep tot meer regulering. Onder anderen X-baas Elon Musk en OpenAI-baas Sam Altman schaarden zich achter de oproep. De vrees is onder meer dat AI-systemen op korte termijn geen mensen meer nodig hebben om zichzelf verder te ontwikkelen.
Het is nog niet duidelijk welke topmannen en -vrouwen precies aanwezig zullen zijn. Wel heeft OpenAI laten weten dat zijn financieel directeur Sarah Friar naar Schotland zal komen. Ook de Britse minister van AI, Kanishka Narayan, neemt deel aan het gesprek, evenals vertegenwoordigers van verschillende door koning Charles opgerichte liefdadigheidsorganisaties.
Yassin Boutayeb
De Amerikaanse president Donald Trump lijkt niet van plan snel meer regels op te leggen aan AI-bedrijven om de ontwikkeling van hun systemen in te tomen. Volgens Trump zijn er ‘veel negatieve krachten’ die waarschuwen voor de risico’s van AI ‘en ze hebben het over dingen die niet zullen gebeuren’.
Op wie Trump precies doelt, is niet bekend. Afgelopen weekend pleitte Anthropic-baas Dario Amodei, gesteund door OpenAI-topman Sam Altman en Elon Musk, ervoor het rustiger aan te doen met de ontwikkeling van AI. Een van Amodei's werknemers, onderzoeker Jacob Coxon, stapte vorige week op omdat AI-bedrijven zouden weten dat hun uitvindingen in potentie de mensheid kunnen vernietigen, maar desondanks op volle kracht doorgaan.
Dat lijkt Trump allemaal overtrokken te vinden, niet in de laatste plaats omdat hij de concurrentie met China belangrijker vindt. De AI-systemen die in de VS worden ontwikkeld zijn volgens Trump nu nog beter dan die in China en ‘eerlijk gezegd wil ik dat zo houden want wie AI wint, wint’. Klokkenluider Coxon pleitte in gesprek met de BBC voor samenwerking tussen de VS en China om AI te reguleren.
Er lijkt vooralsnog weinig politieke overeenstemming in de VS over de noodzaak om AI-bedrijven te reguleren en de manier waarop dat zou moeten gebeuren. De Republikeinse voorzitter van het Huis van Afgevaardigden Mike Johnson zit op de lijn van Trump: ‘We gaan geen wetgeving er doorheen jagen die ons land schaadt en China een voordeel geeft’, aldus Johnson. Toch vindt hij wel dat er ‘enkele vangrails en enkele veiligheidsmaatregelen’ moeten komen.
De hoogste Democraat in het Huis van Afgevaardigden, Hakeem Jeffries, roept op tot ‘daadkrachtig optreden’, zonder uit te leggen welke maatregelen hij specifiek voor ogen heeft.
Joram Bolle
De Chinese inlichtingendienst heeft voor het eerst een publieke verklaring afgegeven over AI en de gevaren ervan. De baas van de inlichtingendienst Chen Yixin zette het Chinese standpunt uiteen in een uitgebreid artikel dat verscheen op eigen sociale media.
Chen ziet zes grote gevaren, schrijft hij, maar dat AI de mogelijkheid heeft om de mensheid te vernietigen, zoals in het Westen wel de vrees is, noemt hij niet. De Chinese spionnenbaas vreest vooral dat generatieve AI zoals deepfakes gebruikt door ‘vijandige krachten en individuen’ een ‘propagandaoorlog en cognitieve oorlog’ kunnen ontketenen tegen China, ‘die direct onze politieke veiligheid, institutionele veiligheid en ideologische veiligheid bedreigt’.
Ook waarschuwt Chen voor AI-modellen van Anthropic en OpenAI die op eigen houtje gaten in de veiligheid van computersystemen kunnen ontdekken en uitbuiten: ‘Cyberveiligheid komt in een nieuwe fase terecht, gekenmerkt door de industrialisering van kwetsbaarheid, volledig geautomatiseerde aanvallen en verdediging en AI versus AI.’
AI-agenten van OpenAI hebben recent bijvoorbeeld systemen gehackt van AI-bedrijf Hugging Face, zonder daartoe de opdracht te hebben gekregen. In april baarde Anthropic opzien toen het nieuwe Mythos-model in staat bleek allerlei onbekende kwetsbaarheden in veiligheidssystemen te kunnen opsporen en uitbuiten. Volgens Chen is er ook een gevaar dat Chinese bedrijven gevoelige gegevens lekken door buitenlandse AI-systemen te gebruiken.
China lijkt weinig te voelen voor het rustiger aan doen met de ontwikkeling van AI en roept op tot meer internationale samenwerking. Die lijkt echter vooral gericht op het behouden van de Chinese positie in de AI-markt. Sommige landen gebruiken het ‘voorwendsel van het handhaven van nationale veiligheid’ om nieuwe AI-technologie te bannen.
In de VS klinken geluiden om Chinese AI-modellen te verbieden. Volgens The Financial Times is dat onderwerp van gesprek in een aankomende top tussen de Amerikaanse president Trump en zijn Chinese ambtgenoot Xi later deze maand.
Joram Bolle
Anthropic-CEO Dario Amodei heeft afgelopen weekend opgeroepen het rustiger aan te doen met de ontwikkeling van AI. Hij kreeg direct bijval van zijn concurrenten. De timing en framing van hun zorgen zijn opmerkelijk.
‘Pacing the frontier’, dat is wat Dario Amodei voorstelt in een essay dat hij zaterdag publiceerde op zijn eigen site. Oftewel: we moeten het tempo verlagen waarin AI-bedrijven hun product ontwikkelen. Alleen op die manier valt de veiligheid van kunstmatige intelligentie te waarborgen. Opvallend snel kreeg hij steun van zijn concurrenten Sam Altman (OpenAI) en Elon Musk (XAI) voor zijn boodschap. Amodeis essay kwam na een week vol opzienbarend AI-nieuws.
In dit liveblog houden we u op de hoogte over alle ontwikkelingen in de race om geavanceerde AI-systemen te ontwikkelen en de risico's daarvan. Wat is het gevaar van 'losgeslagen' AI-agenten, hoe reageren overheden en deskundigen, welke marketingstrategieën zitten erachter? U leest het in dit blog.
Source: Volkskrant