Jesse Six Dijkstra | AI-adviseur Overal is te horen hoe machtig en mogelijk zelfs gevaarlijk kunstmatige intelligentie kan zijn. De roep om ‘vangrails’ wordt steeds luider. Net als in andere landen denkt Nederland na over een AI-veiligheidsinstituut. Wat kost dat en wat is daar voor nodig?
Toenmalig Kamerlid Jesse Six Dijkstra (NSC) tijdens een debat in de Tweede Kamer.
Na een zomer waarin AI-agents van Amerikaanse techbedrijven losbraken en wereldwijd overheidsinstanties en bedrijven hackten, klinkt steeds vaker de vraag hoe de samenleving zich tegen bedreigingen van kunstmatige intelligentie kan verweren. Ook in politiek Den Haag.
Fractieleider Laurens Dassen van Volt riep tijdens de Algemene Politieke Beschouwingen op tot de creatie van een Nederlands AI-veiligheidsinstituut. Zijn motie tot het oprichten van zo’n instituut werd eerder deze maand door de Kamer aangenomen. Zaterdag spraken hij en Pro-leider Jesse Klaver met het kabinet over mogelijke steun voor de begrotingsplannen van volgend jaar – en ook over de wens van Volt.
Maar daarover stond niets concreets in de reactie van minister van Financiën Eelco Heinen (VVD). Dinsdag stuurde hij een brief met daarin toezeggingen aan de oppositie. Heinen noemde in zijn brief aan de Tweede Kamer AI alleen onder het kopje „Niet-financiële wensen vanuit de oppositie”, tussen onderwerpen als medische ethiek en het terugdringen van migratie. Met als gevolg, zegt Dassen, dat er vooralsnog „geen enkele euro” wordt uitgetrokken voor AI-veiligheid.
Maar wat zou zo’n instituut eigenlijk kosten?
Oud-NSC-Kamerlid Jesse Six Dijkstra, tegenwoordig verbonden aan De Digitale Doetank, dat overheden en bedrijven adviseert over technologie, voert in opdracht van verschillende ministeries en de AIVD een binnenkort te verschijnen verkenning uit naar de oprichting.
Een blik over de grens toont de verschillende mogelijkheden, vertelt Six Dijkstra. De Britten lopen in Europa voorop. Het Artificial Intelligence Security Institute (AISI) in Londen is het grootste en best gefinancierde instituut ter wereld. „Dat heeft een budget van tussen de 66 en 100 miljoen pond per jaar. Het zit dicht op de politiek, heeft weinig last van bureaucratie en is voor Nederland nadrukkelijk een inspiratiebron.”
Het Artificial Intelligence Security Institute zit in het hartje van Londen.
Het AISI was bij zijn oprichting door de toenmalige Britse premier Rishi Sunak in 2023 de eerste van zijn soort, en heeft sindsdien een unieke positie weten te verwerven. Zo krijgt het (meestal) toegang tot de nieuwste modellen van Amerikaanse AI-bedrijven om ze te testen vóórdat ze naar buiten worden gebracht.
In elk groot model dat het tot nu toe getest heeft, ontdekte het AISI enorme veiligheidslacunes, waardoor het bijvoorbeeld mogelijk bleek voor het model om – via een omweg – een veiligheidsinstituut instructies te laten delen voor het bouwen van een biologisch wapen. Zulke informatie wordt dan meteen gedeeld met het Amerikaanse moederbedrijf.
Aan de andere kant van het spectrum zitten de Fransen. „In plaats van een hele nieuwe organisatie op te richten, hebben die een aantal afdelingen van bestaande overheidsorganisaties bij elkaar gezet en daarvan gezegd: ‘Jullie zijn nu het Franse AISI.’” De Franse opzet mist daarmee de unieke positie van het Britse instituut, aldus Six Dijkstra.
Het is belangrijk dat de komst van een nieuw veiligheidsinstituut wél voortbouwt op bestaande kennis en werkzaamheden binnen de overheid, waarschuwt Meindert Kamphuis, hoofd van het AI Safety & Security Lab van de Rijksinspectie Digitale Veiligheid.
Zijn team is niet een officieel veiligheidsinstituut zoals Dassen voor ogen heeft, maar onderzoekt nu al de risico’s van AI en helpt zo de Nederlandse toezichthouders bij het handhaven van bestaande Europese AI-wetgeving. Ook wordt het regelmatig uitgenodigd bij het internationale netwerk van AI-veiligheidsinstituten. Het lijkt hem niet handig om straks twee verschillende organisaties naast elkaar te hebben. „We moeten elkaar straks niet in de weg zitten.”
Als het aan Six Dijkstra ligt, zijn er een aantal kerntaken die een Nederlands AI-veiligheidsinstituut in ieder geval moet vervullen. Zo moet een instituut kunnen monitoren hoe AI zich ontwikkelt en welke impact dat heeft op de samenleving, bijvoorbeeld op het gebied van veiligheid en economie. Daarop moet het ook beleidsmakers, maar eventueel ook bedrijven of andere belanghebbenden kunnen voorzien van advies.
„Je wilt dat onze politieke top niet alleen af hoeft te gaan op het nieuws, maar beschikt over onafhankelijke informatievoorziening,” vertelt hij. Een model hiervoor is de manier waarop de hoofden van de veiligheidsdiensten ministers direct kunnen voorzien van advies.
Ten slotte moet een instituut volgens Six Dijkstra meer dan alleen „een papiermolen” worden, maar ook zelf dingen kunnen „produceren”. Zo zou het, in samenwerking met universiteiten en bedrijven, kunnen bijdragen aan wereldwijd AI-onderzoek. Nederland zou een niche kunnen kiezen om zich daarop te profileren.
Het is volgens Six Dijkstra „absoluut een na te streven doel” dat het Nederlandse AI-veiligheidsinstituut toegang krijgt tot AI-modellen van de techbedrijven voordat ze worden gelanceerd – wat in het veld pre-deployment access heet. Makkelijk is dat niet. Naast het Verenigd Koninkrijk heeft geen enkel ander buitenlands lab toegang tot AI-modellen van Amerikaanse bedrijven. Ook Six-Dijkstra wijst er eufemistisch op dat „weerbarstige geopolitieke verhoudingen” toegang tot de modellen kan bemoeilijken.
Begin september ontzegde Anthropic het Britse AISI bijvoorbeeld voor het eerst toegang tot het testen van hun nieuwste model, Mythos 5.1. Volgens de de nieuwswebsite Politico was dat een direct gevolg van druk die de regering-Trump op het bedrijf uitoefende.
Hoe het de Britten überhaupt is gelukt om meestal wél toegang tot de modellen te krijgen? „Door vanaf het allereerste begin toptalent aan te trekken”, zegt Six Dijkstra. Dat begon met de wetenschappelijk directeur Geoffrey Irving, die echt „naam en faam” in de AI-scene heeft.
Maar goede mensen kosten geld. Six Dijkstra doet in zijn verkenning dan ook expliciet de aanbeveling buiten de normale salarisschalen van de rijksoverheid om te werken. „Dat betekent niet dat iedere medewerker tegen de Balkenendenorm (262.000 euro per jaar) moet gaan verdienen, maar als je een aantal stevige boegbeelden aan het instituut wilt binden, dan moet je het enigszins aantrekkelijk voor hen maken om te komen.”
Het gaat volgens Six Dijkstra om bedragen die vergelijkbaar zijn met het inkomen van de top van Nederlandse senior hoogleraren of van een minister, dus ongeveer „één a twee ton”. Nog altijd een fractie van de miljoenenbeloningen die medewerkers kunnen verdienen bij techbedrijven in California. Nog altijd zul je afhankelijk zijn van mensen die zich uit verantwoordelijkheid geroepen voelen bij te dragen aan overheidsregulering van AI.
Over de totale kosten van een AI-veiligheidsinstituut wil Six Dijkstra nog niet te veel kwijt, nu zijn verkenning nog niet is gepubliceerd. Maar tussen de minimalistische aanpak van de Fransen en het ambitieuze project van de Britten zijn volgens hem verschillende smaken denkbaar. „Maar wil je dit echt serieus kunnen opzetten, moet je denken aan een orde van grootte van tientallen miljoenen.”
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie