Bioveiligheid Het is wetenschappers gelukt om een virus te bouwen op basis van een AI-ontwerp. Dat roept fundamentele vragen op over de veiligheid van biotechnologie. Wie heeft toegang tot deze kennis?
Ingekleurd beeld van onder een elektronenmicroscoop: een natuurlijke bacteriofaag infecteert een Escherichia Coli-bacterie. De bacteriofaag die de onderzoekers maakten kan ook een E. Coli-bacterie infecteren. E. Coli is een bacterie die van nature voorkomt in de darmen van mensen en daar soms schade aanricht. De bacterie wordt steeds resistenter tegen antibiotica.
Het is een doorbraak die wetenschappers hadden voorzien, maar niet nú al hadden verwacht: voor het eerst zijn onderzoekers erin geslaagd om met behulp van kunstmatige intelligentie (AI) een virus te ontwerpen dat niet in de natuur voorkomt. Het gaat om een bacteriofaag, een minivirus dat alleen bacteriën infecteert en dus geen mensen, dieren of planten.
Onderzoekers van Stanford University en The Arc Institute in Californië lieten AI honderdduizenden virussen ontwerpen, waarvan er zestien bleken te werken.
De studie, die vorige week verscheen in Science, maakt de tongen los. Er heerst opwinding over nieuwe behandelopties die tot voor kort nauwelijks voorstelbaar waren. Maar er zijn ook zorgen. Doembeelden over steeds krachtiger AI-modellen die straks virussen kunnen ontwerpen die gevaarlijk zijn voor mensen. „De mogelijkheid om virussen te maken met AI is er nu”, waarschuwen twee Amerikaanse bioveiligheidsexperts in een begeleidend schrijven van de studie in Science, „maar de regels om dit veilig te doen zijn er nog niet.”
Dat een taalmodel een bouwtekening voor een niet-bestaand virus kan maken, is logisch als je de overeenkomst tussen menselijke taal en een genetische code begrijpt. Zoals woorden zijn opgebouwd uit letters, zo bestaat dna op het kleinste niveau uit vier bouwstenen: A, G, C en T, de nucleotiden. Die nucleotiden vormen reeksen van verschillende lengtes, zoals zinnen in een boek.
Maar zoals je voor een coherente zin niet zomaar woorden op een willekeurige plek kunt neerzetten, zo heeft ook dna eigen grammatica: verwijder, verplaats of vermenigvuldig een reeks, of zelfs één letter, en de kans is groot dat cruciale processen verstoord raken. Hoewel biologen de logica van het dna in grote lijnen begrijpen, zijn de exacte regels nog steeds grotendeels een raadsel.
Dat is precies wat taalmodellen goed kunnen: patronen en verbanden zien in enorme datasets. De onderzoekers van de Science-studie gebruikten een openbaar taalmodel (Evo) dat data van bijna 9 biljoen dna-bouwstenen bevat, afkomstig van meer dan 100.000 organismen, inclusief planten, dieren en mensen. Om zeker te weten dat het geen virussen kon ontwerpen die gevaarlijk zijn voor mensen, hebben de onderzoekers alleen de genetische code van PhiX174 gebruikt, een bacteriofaag die slechts één specifieke bacterie kan infecteren, en een paar duizend aanverwante soorten.
Aan het taalmodel gaven ze de opdracht om zoveel mogelijk dna-recepten te maken voor een bacteriofaag die is gebaseerd op PhiX174, maar niet bestaat. Daar rolden meer dan 700.000 recepten uit, waarvan de onderzoekers de 285 meest kansrijke in het lab hebben ingebouwd in een bacterie. Zestien daarvan bleken te functioneren: ze produceerden bacteriofagen.
Precies daarin zit de kracht van dit onderzoek, zeggen experts: het toont aan dat AI iets kan dat mensen nog niet is gelukt: patronen en verbanden in genetische code herkennen en daarmee nieuwe genomen ontwerpen die aan alle biologische voorwaarden voldoen. In een van de genomen is zelfs een gen van een nauwelijks aan PhiX174 verwante bacteriofaag ingebouwd – een combinatie waar mensen zelf waarschijnlijk nooit opgekomen waren.
De zestien geslaagde genomen leverden bacteriofagen op die zich net zo gedroegen als natuurlijke soorten: ze konden in de bacterie eiwitkapsels maken waarin dna zit verpakt, uit de bacterie ‘barsten’ en nieuwe bacteriën infecteren. In sommige gevallen lukte dat zelfs beter dan bij bestaande bacteriofagen.
Is deze doorbraak medisch gezien veelbelovend? Biologen twijfelen daaraan. Ze zien het vooral als een proof of concept-studie die laat zien wat AI al kan. Behandelingen met bacteriofagen worden al langer onderzocht als een antwoord op antibioticaresistentie. In plaats van een bacteriedodend antibioticum zouden virussen de schadelijke bacteriën kunnen doden. Hoewel veelbelovend op de tekentafel is de behandeling tot nu toe niet echt van de grond gekomen. De varianten die in deze studie werden gemaakt zijn bovendien extreem klein en simpel. PhiX174 bestaat uit ongeveer 11 genen en 15.000 nucleotiden, de meeste bacteriofagen zitten een stuk complexer in elkaar. Ter vergelijking: een middelgroot virus bevat tussen de 50.000 en 500.000 nucleotiden en 150 tot 500 genen. Het genoom van een mens bevat ongeveer 25.000 genen en zes miljard nucleotiden.
De studie roept vooral fundamentele vragen op over het gebruik van AI in de biomedische wetenschappen. Hoe krachtig is AI inmiddels al, welke biologische gegevens zitten er in die modellen, en wie kan daar allemaal bij? „Deze onderzoekers zijn bewuster omgesprongen met de bioveiligheid dan de meeste ontwerpers van biologische AI-modellen dat doen”, aldus de begeleidende brief bij het artikel. „De vraag is niet langer óf AI virusgenomen kan ontwerpen, maar of we het op zo’n manier kunnen reguleren dat we de vruchten ervan plukken zonder dat ernstige schade wordt aangericht.”
Bij Cogem, de commissie die de Nederlandse overheid adviseert over de risico’s van genetisch gemodificeerde organismen, hadden ze deze studie een maand geleden al op de radar, toen het nog niet officieel gepubliceerd was. „Drie jaar geleden voorspelden we al dat dergelijke ontwikkelingen eraan zaten te komen, maar ik had niet verwacht dat we daar nú al zouden zijn”, zegt Frank van der Wilk, algemeen secretaris bij Cogem. Bij de commissie klommen ze gelijk in de pen om de regering te waarschuwen: het moment is bijna daar, tijd om in actie te komen.
Geknutsel aan virussen is niet nieuw, legt Van der Wilk uit. Al langer kunnen genen worden toegevoegd of juist weggehaald uit het dna van een virus, of uitgewisseld tússen virussen. Die technologie wordt bijvoorbeeld gebruikt om vaccins te maken. „Het grote verschil met deze studie: hier is een compleet nieuw virus gebouwd.”
Dat is precies waar in de brief voor wordt gewaarschuwd: de Nederlandse wetgeving over genetische modificatie lijkt alleen te gaan over het knutselen aan bestaande organismen. „Ik denk dat iedereen het erover eens is dat ook dit onderzoek gebonden moet zijn aan regels over genetische modificatie, maar dat doet het nu dus niet.”
Bij het Rathenau Instituut volgt onderzoeker Simone Harmsen de samensmelting van AI en biotechnologie met grote belangstelling. Haar biologenhart gaat sneller kloppen van de gedachte aan wat het de geneeskunde allemaal zou kunnen brengen „als je de natuur zo naar je hand kunt zetten”. Maar ze ziet ook de maatschappelijke vragen die deze ontwikkeling oproept.
„Deze onderzoekers kozen ervoor om hun dataset publiek te maken, zodat anderen dat kunnen controleren – een groot goed in de wetenschap”, zegt Harmsen. „In dit geval gaat het om virusdata die al publiek zijn, maar je kan je ook studies voorstellen met gevoeliger data, of modellen die gevaarlijkere virussen kunnen ontwerpen. Er moet een goed gesprek gevoerd gaan worden over dat spanningsveld tussen transparantie en bioveiligheid.”
In hun paper werpen de onderzoekers de vraag op of wetenschappers voortaan gescreend zouden moeten worden voordat ze toegang krijgen tot genetische taalmodellen. „Ik vraag me af hoe haalbaar zoiets is”, zegt Harmsen. „Bovendien zijn er genoeg publieke databases waarin genetische data van ziekteverwekkers al gewoon te vinden zijn. Ik weet niet of je die geest nog terug in de fles krijgt.”
De angst dat iedere leek binnenkort op zolder een gevaarlijk virus in elkaar kan knutselen is ongegrond, denkt Van der Wilk van Cogem. „AI heeft hier alleen de eerste denkstappen gezet. Het virus moest nog steeds in het laboratorium in elkaar gezet worden en dat vereist flinke kennis van zaken.”
Maar wie zegt dat degenen met slechte intenties altijd leken zonder verstand van zaken zijn, werpt Harmsen op. Ze sluit ook niet uit dat het maakproces steeds gemakkelijker zal worden, óók door AI.
In een vorig jaar verschenen studie lieten onderzoekers extreem complexe virologische vraagstukken oplossen door topvirologen in hun vakgebied én door kunstmatige intelligentie: AI scoorde in 94 procent van de gevallen beter dan de virologen. Dat een taalmodel zo makkelijk kennis van extreem hoog niveau toegankelijk kan maken voor een leek, toont het risico aan van zogenoemde dual use, waarschuwen de onderzoekers: bruikbaar voor de wetenschap, maar ook vatbaar voor misbruik.
„Veel open taalmodellen zijn getraind om geen antwoord te geven op vragen over bioveiligheid”, zegt Harmsen. „Maar studies laten nu al zien dat dit te omzeilen is door slimme vragen te stellen.” Bovendien, waarschuwt ze, worden niet alle AI’s hier even streng op getraind. „Neem OpenClaw, een gratis en open source AI die zelfstandig door iemand werd ontworpen en op internet gepubliceerd. In hoeverre kunnen we garanderen dat AI-modellen die biologische vragen kunnen oplossen in de toekomst alleen beschikbaar zijn via bedrijven met goede controle?”
Afgelopen juni verscheen een opvallende open brief met daaronder niet alleen de handtekeningen van tientallen computerwetenschappers, biomedici, veiligheidsexperts en denktanks, maar ook die van de oprichters van de grootste AI-bedrijven ter wereld: OpenAI, Anthropic, Microsoft AI. De oproep aan overheden: laat mensen die synthetische bouwstenen van dna willen kopen voortaan screenen: wie zijn zij en wat gaan ze met die spullen doen?
De verkoop van synthetische nucleotiden is volgens de ondertekenaars van de brief al een paar decennia „een schakel in de biomedische keten waar iemand met slechte bedoelingen enorme schade kan aanrichten […] Het thema is niet nieuw, maar de snelheid waarmee kunstmatige intelligentie zich ontwikkelt wel”.
Harmsen bekijkt dit soort oproepen met enige scepsis, net als de verhalen dat in de afgelopen maand plotseling meerdere AI’s uit hun testomgeving zouden zijn ontsnapt. „Is het een terechte oproep tot veiligheid en voorzichtigheid, of toch ook een marketingstunt om te laten weten hoe krachtig je AI wel niet is?”
Dus waar staan we nu? Lopen we al achter de feiten aan? Van der Wilk denkt van niet. Wetgeving volgt volgens hem altijd op technologische ontwikkelingen en dat is ook niet alleen maar slecht. Door bij voorbaat te verbieden of te streng te reguleren loop je het risico om het kind met het badwater weg te spoelen: taalmodellen bieden ook nieuwe mogelijkheden om vaccins ontwikkelen, antibioticaresistentie te lijf gaan, om in het lab eiwitten en moleculen te bouwen die precies aangrijpen op de plek in het lichaam waar dat nodig is.
„De een zal zeggen: dit soort onderzoek bij voorbaat verbieden. De ander zegt: doe het toch en kijk waar het nuttig kan zijn. Die discussie zal de komende tijd losbarsten”, zegt Van der Wilk. „Ik denk dat we de kaders moeten bouwen waarbinnen dit soort onderzoeken veilig kan plaatsvinden. Een totaalverbod op dit soort onderzoeken zie ik niet snel gebeuren. Ik heb liever dat het in landen gebeurt waar de regelgeving en veiligheid op orde zijn, dan ergens anders waar die waarborgen niet zijn.”
Grote vragen zoals deze zijn niet nieuw in de biotechnologie, weet Harmsen. Het risico op misbruik door iemand met verkeerde intenties is inherent verbonden met het vakgebied. Precies datzelfde risico draagt kunstmatige intelligentie met zich mee. „Nu komen er twee heel grote, belangrijke ontwikkelingen bij elkaar, dus de vragen die dat oproept versterken elkaar. Het is allemaal niet nieuw, maar wel een stuk groter en prangender.”
Op de hoogte van kleine ontdekkingen, wilde theorieën, onverwachte inzichten en alles daar tussenin