In Hollywoodfilms gebeurt het al met enige regelmaat: een virus, uitgedokterd door kunstmatige intelligentie, roeit de mensheid uit. Maar kan het ook echt? Welnee, zeggen experts. Of nou ja: ‘Ik wilde dat ik je kon geruststellen.’
is wetenschapsredacteur bij de Volkskrant, gespecialiseerd in klimaat en microleven.
Gedonder in het petrischaaltje. Waar even tevoren nog vreedzame bacteriën groeiden, ontstonden ineens kleine, uitdijende, open vlekjes op de bodem. Een duidelijk teken dat daar beneden iets een slachting aan het aanrichten was.
Het werk van een AI-model genaamd Evo, aldus de wetenschappers die het experiment vorige maand in vakblad Science beschreven. De onderzoekers, van de Stanford Universiteit en onderzoeksinstituut Arc, hadden Evo getraind op de erfelijke codes van miljoenen natuurlijke bacterievirussen. En nu had Evo zelf zo’n virus uitgedacht. Ongevaarlijk voor de mens, maar wél in staat om veel efficiënter dan zijn natuurlijke tegenhanger een kolonie bacteriën te slopen.
Best eng. ‘Je zou kunnen zeggen: hé, genetisch getraind taalmodel, maak eens een griepgenoom voor me dat is aangepast om besmettelijker of dodelijker te zijn’, opperde bioveiligheidsexpert Moritz Hanke in The New York Times. Het vredescollectief van wetenschappers Bulletin of the Atomic Scientists – bekend van de ‘Doomsday Clock’ die aangeeft hoever de mensheid is verwijderd van de ondergang – roept op tot bezinning. Want je moet er niet aan denken dat terroristen die zich nu behelpen met gif straks een virus maken, betogen de wetenschappers.
12 Monkeys. I Am Legend. Resident Evil. Talloos zijn de verbeeldingen in films, boeken en games van wat er kan gebeuren als bioterroristen, onhandige wetenschappers of een opstandige computer ertoe overgaat om een geheel nieuw virus los te laten op de mensheid. Met als gevolg een hoop trammelant, en doorgaans het einde van de beschaving.
Maar wetenschappers die dagelijks met virussen werken zijn allerminst overtuigd. ‘Ongelooflijk gehypet’, vindt viroloog Ron Fouchier (Erasmus MC) het Stanford-experiment met het bacteriedodende virus. Zo heel nieuw was het virus niet: ‘Het is gewoon een variant op een bestaand virus dat ze als uitgangspunt namen.’
Met AI ging het uitdenken van die variant lekker snel en efficiënt, erkent hij. ‘Maar vier slimme menselijke virologen kunnen dit ook’, zegt Fouchier, die vijftien jaar geleden zelf een ‘nieuw’ griepvirus maakte om te begrijpen bij welke mutaties vogelgriep gevaarlijk wordt.
Maar dat is nú, tekent moleculair-viroloog Frank van Kuppeveld (Universiteit Utrecht) aan. ‘Ik kan niet zeggen dat we zo’n synthetisch virus niet ergens in de toekomst kunnen maken.’ Zo wijst hij erop dat er ook al eiwitten worden gemaakt die niet in de natuur voorkomen. ‘Ik wilde dat ik je kon geruststellen. Maar het gaat verschrikkelijk hard. Er gebeurt nu al van alles dat ik een aantal jaar geleden op geen enkele manier voor mogelijk had gehouden.’
Dat gezegd hebbende: AI die de mensheid op eigen houtje uitroeit zit er niet direct in. Want al heeft die AI een ontwerp voor een nieuw horrorvirus, dan moet ze het nog wel maken. ‘En het labwerk blijft gewoon mensenwerk’, zegt Fouchier. ‘Als je je fantasie erop loslaat, is er veel dat je kunt robotiseren’, zegt Van Kuppeveld. ‘Maar virussen kweken begint gewoon met een ampul cellen die je moet kweken, om die virussen in te vermeerderen.’
Een klus voor bioterroristen? ‘De gemiddelde leek lukt dit echt niet eventjes in een schuurtje’, oordeelt Fouchier. Zo is de aankoop van materialen zoals genetische codes aan strenge controles onderworpen. Net als die van peperdure, gespecialiseerde apparatuur: lastig om dat allemaal stil te houden.
Bovendien, vraagt vaccinexpert Ben van der Zeijst (LUMC) zich af: ‘Waarom zou een bioterrorist al die moeite doen? Ebola, lassa, pokken: we hébben al zoveel.’ Terrorisme-experts wijzen er dan ook op dat aanslagplegers doorgaans liefst kiezen voor het grote gebaar: ontploffingen, kogels, kabaal. Niet dat subtiele gedoe met virussen.
Rest een andere mogelijkheid: dat de wetenschap per abuis een door AI ontworpen supervirus loslaat op de wereld. Een probleem, zegt moleculair-viroloog Gorben Pijlman (Wageningen Universiteit), is dat de regels achterlopen op wat er technisch mogelijk is.
‘Als je zo’n virus de novo ontwerpt, valt het waarschijnlijk niet onder de regels voor genetisch gemodificeerde organismes’, zegt hij, verwijzend naar bacteriën of zaden waaraan genetisch is geknutseld. En dan is er nog de vraag hoe gevaarlijk een nieuw virus is. ‘Valt het in een tamelijk ongevaarlijke risicoklasse? Of moet je hem voor de zekerheid behandelen in een hoogbeveiligd lab? Het antwoord op die vraag heb ik zelf ook niet’, zegt Pijlman, tevens lid van de adviserende Commissie Genetische Modificatie (Cogem).
Eén troost. Zelfs als het, tegen alle verwachting in, zou lukken een door AI ontworpen griezelvirus los te laten, is er altijd nog de laatste verdediging: de mens. ‘We hebben tijdens corona gezien dat als er iets uitbreekt, mensen thuisblijven en in quarantaine gaan’, zegt Van Kuppeveld. Tot er een vaccin is. ‘Ook de vaccinontwikkeling is in een AI-stroomversnelling gekomen’, zegt Pijlman.
Bovendien zullen er altijd mensen immuun zijn. Pijlman: ‘Zelfs aan zeer efficiënte virussen zoals pokken is de mensheid niet ten onder gegaan. Altijd zie je dat een aantal mensen van nature meer resistent is. Ik kan me geen virus voorstellen waarbij dat niet zo zou zijn.’
De Nederlandse kenners wijzen op een heel ander gevaar: dat het getob over AI afleidt van wat er wél met de nieuwe technieken kan. ‘Ik zou me eerlijk gezegd zenuwachtiger maken om AI’s die overheden of banken platleggen dan om de virologie’, zegt Fouchier.
Want dat ontworpen virussen heel nuttig kunnen zijn, staat buiten kijf. Zoals virussen als bezorgers van heilzame medicijnen, of verzwakte virussen die kunnen dienen als vaccin, zegt Van der Zeijst. ‘Of denk aan oncolytische virussen, die specifiek tumorcellen kunnen opruimen’, zegt Van Kuppeveld. ‘Als je erover nadenkt, zijn er heel mooie toepassingen.’
Alles over wetenschap vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant