AI segítheti a biológiai fegyverek fejlesztését, terroristáknak és államoknak egyaránt
Az AI chatbottal kapcsolatos öt jelentett eset és egy MIT-hallgatói kísérlet is rámutat, hogy a technológia már képes részletes útmutatót adni a vírusok módosításához.
Sir Ken McCallum az MI5 vezetőjeként már tavaly figyelmeztetett, hogy az AI megváltoztathatja a biológiai fegyverek kockázati egyensúlyát — írja a BBC News. (The Guardian)
Kik használhatják az AI-t?
Rogue terrorista csoportok számára az AI leginkább a tudásgyűjtést és a kísérletek tervezését könnyíti meg, míg állami laboroknál a már meglévő patogének halálosabbá tételére használható — közölte Dr. Filippa Lentzos a King’s College London-ról.
Korábbi esetek
Az elmúlt évben indiai hatóságok egy ricin-gyártási kísérletet bontottak le, ahol a gyanúsítottak AI-chatbotok lekérdezéseire támaszkodtak; a hatásosságuk azonban nem bizonyított. Anthropic szeptemberben jelentette, hogy öt különböző országban dolgozó kutató Claude-chatbotot próbált felhasználni vírus- vagy toxin-kapcsolatos feladatokra, és a blokkolás után megkerülték a korlátozásokat.
Egy MIT-hallgatói gyakorlat során a chatbot négy potenciális pandémia-patogént sorolt fel, leírta a szintetikus DNS-szintézis lépéseit, és név szerint megnevezett DNS-szintézis cégeket ajánlott, amelyek nem szűrik a megrendeléseket.
Műszaki és logisztikai akadályok
Lentzos szerint az információ csak egy része a problémának; a tacit szakértelem, a biológiai anyagokhoz és felszerelésekhez való hozzáférés, a kísérleti validálás, a méretezés és a szállítás mind jelentős gátat jelentenek a rosszindulatú fejlesztéseknek. Sonia Ben Ouagrham-Gormley, a George Mason University-nél a biodefense program alelnöke, úgy véli, hogy a kézzel fogható tudás hiánya a legnagyobb korlátozó tényező a történelmi állami programoknál is.
Megelőző intézkedések
Tom Inglesby, a Johns Hopkins Center for Health Security igazgatója szerint a legtöbb AI-cég még nem közöl részleteket a biológiai fegyverek elleni védekezésről, és hivatalos kormányzati szabályozás hiányzik. Javasolja a modellek független, előzetes biztonsági értékelését, a magas kockázatú biológiai adatok korlátozott hozzáférését, valamint a genetikai anyaggyártók kötelező szűrését a potenciálisan veszélyes szekvenciákra.
Az Anthropic 2026. szeptemberben jelentette be az öt Claude-esetet, és a cég azt ígéri, hogy a jövőben szigorúbb szűrést vezet be.