Artificiell intelligens förändrar biologin och medicinen genom att påskynda upptäckten av nya läkemedel och proteiner och göra det lättare att designa och manipulera DNA, livets byggstenar. Men som med de flesta nya tekniker finns det en potentiell nackdel. Samma AI-verktyg kan användas för att utveckla farliga nya patogener och toxiner som kringgår dagens säkerhetskontroller. I en ny studie från Microsoft använde forskare ett hackerliknande test för att visa att AI-genererade sekvenser kunde kringgå säkerhetsprogramvara som används av DNA-tillverkare.
”Vi tror att den pågående utvecklingen av AI-assisterad proteindesign är mycket lovande för att ta itu med kritiska utmaningar inom hälsa och livsvetenskap, med potential att ge överväldigande positiva effekter på människor och samhälle”, kommenterade forskarna i sin artikel publicerad i tidskriften Science. ”Liksom med andra nya tekniker är det dock också viktigt att proaktivt identifiera och minska riskerna som uppstår till följd av nya möjligheter.”
Testa försvar
När bioteknikföretag tillverkar DNA för forskare använder de biosäkerhetsscreeningprogramvara (BSS) för att leta efter likheter mellan den nya sekvensen och en databas med kända hot. Och det är både en styrka och en svaghet, eftersom det bara kan screena mot det som finns listat i databasen.
För att testa denna biosäkerhetsbrist använde Microsofts forskare allmänt tillgängliga AI-program för att skapa mer än 76 000 syntetiska varianter av kända farliga proteiner, inklusive ricin. De producerade inte proteinerna själva, utan utformade de genetiska instruktionerna för deras syntes. Sedan körde de sekvenserna genom fyra olika screeningverktyg för att se om någon kunde slinka igenom. Och det gjorde de – i stort antal. En betydande andel av dessa AI-designade sekvenser slank igenom kontrollerna.
Efter att ha upptäckt bristerna arbetade Microsoft-teamet tillsammans med BSS-leverantörer för att utveckla korrigeringar. Dessa inkluderade uppdatering av hotdatabaser och finjustering av screeningprogramvaran. Resultatet? De förstärkta screeningverktygen fångade upp 97 % av de farligaste sekvenserna i ett andra test.
Forskningen fungerar som en tydlig varning. Även om korrigeringarna ökade detekteringsgraden var de inte helt säkra, eftersom 3 % av de potentiellt farliga sekvenserna missades. Det är också oklart hur de resulterande proteinerna skulle fungera i verkligheten, eftersom sekvenserna var datorbaserade förutsägelser.
Det är uppenbart att det kommer att krävas mer arbete för att bygga upp ett robust försvar mot allt mer sofistikerade AI-tekniker, men detta arbete kommer att fortsätta. En ständig evolutionär kapprustning är oundviklig. Precis som vacciner måste hålla jämna steg med nya virusmutationer, så kommer även verktyg för screening av biosäkerhet att behöva kontinuerliga uppdateringar för att motverka AI-genererade hot.
Mer information: Bruce J. Wittmann et al, Strengthening nucleic acid biosecurity screening against generative protein design tools, Science (2025). DOI: 10.1126/science.adu8578
