A Microsoft kutatói 2025. októberében egy új tanulmányban közölték, hogy a mesterséges intelligencia képes olyan új toxinok tervezésére, amelyek átjutnak a jelenlegi biobiztonsági szűrőrendszereken. A vállalat a Paraphrase Project keretében mutatta be, hogy a nagy nyelvi modellek mérgező fehérjéket és vegyületeket képesek generálni, amelyeket az ismert adatbázisokra épülő biztonsági ellenőrzések nem jelölnek veszélyesnek. A Microsoft Research podcastjában hangsúlyozták: ez a helyzet hasonló a kiberbiztonságban ismert „zero day” fenyegetésekhez, amikor teljesen új, előzmények nélküli támadási módszer jelenik meg.
A kísérletek során a kutatók AI-modellekkel fehérjemolekulákat terveztek, amelyek szerkezete eltért a jelenlegi adatbázisokban található ismert toxinoktól. Ez azt eredményezte, hogy a szűrőrendszerek nem ismerték fel őket, noha laboratóriumi körülmények között előállíthatók lennének. A Science folyóiratban megjelent tanulmány bizonyította, hogy a nyelvi modellek képesek biológiai információkat újrakombinálni, és ezzel olyan mérgező hatású fehérjéket létrehozni, amelyek korábban ismeretlenek voltak a tudomány számára. A kutatás szerint ez új kockázati dimenziót nyit a biotechnológiai fejlesztésekben.
A Microsoft szerint a legnagyobb veszélyt az jelenti, hogy ezek a toxinok teljesen újak, így sem a biológiai adatbázisok, sem a szabályozási protokollok nem képesek időben felismerni őket. A vállalat ezért hangsúlyozta, hogy a biobiztonsági rendszereket sürgősen „AI-reziliensebbé” kell tenni. A Paraphrase Project célja olyan védelmi mechanizmusok kidolgozása, amelyek képesek kiszűrni az AI által generált, korábban ismeretlen molekulákat. Ez azért kulcsfontosságú, mert az AI biológiai kutatásokban való alkalmazása csak akkor biztonságos, ha a kockázatkezelés és a szabályozás lépést tart a technológiai fejlődés ütemével.
Források:
1.
Antonio Regalado
2.
Alyssa Hughes (2ADAPTIVE LLC dba 2A Consulting)
3.
