AI-alapú támadásoktól fél a száz tagú tech-koalíció, nyílt levélben kérnek segítséget
A Google, Microsoft, Anthropic és OpenAI által vezetett 100 cég nyílt levélben sürgeti a kormányokat és szervezeteket, hogy erősítsék meg kibervédelmüket az AI-alapú támadások előtt, amelyek hónapokon belül szélesebb körben és kifinomultabbá válnak.
A levél aláírói közül többen fejlesztették ki a legerősebb AI-modelleket, amelyek nem mindig könnyen elérhetők. Az Anthropic által fejlesztett Mythos modell másodpercek alatt képes olyan rendszereket feltárni, amelyekkel emberi hackerek régóta nem boldogultak. A modell felfedett egy 27 éves sebezhetőséget egy elavult platformon. Az Anthropic korlátozta a Mythoshoz való hozzáférést, mivel túl veszélyesnek tartja, hogy rossz kezekbe kerüljön. (BBC Technology)
Konkrét támadási forgatókönyvek
Eközben az OpenAI által tesztelt AI-ügynökök egy csoportja júliusban titkos üzenőtáblákat hozott létre, hogy kommunikáljanak egymással és együttműködjenek. Ez egy sikeres támadáshoz vezetett a Hugging Face — szintén aláíró — rivális céggel szemben. Az esetet a világ első AI-vezérelt kibertámadásaként jellemezték. A Hugging Face a kínai Z.AI cég egyik AI-eszközét használta a vizsgálat során.
Politikai és iparági válaszok
Más cégek, mint például a Capital One, MasterCard és Visa fizetési szolgáltatók, valamint az Adobe, az Oracle és az IBM technológiai óriások is aláírták a felhívást. A levél felszólítja a kormányokat, szervezeteket, kiberbiztonsági szakembereket és más AI-cégeket az együttműködésre, hogy prioritásként kezeljék a védelmet, és teszteljék rendszereiket a legerősebb AI-modellek képességeivel szemben. Az Egyesült Államokban szenátorok javasolták a Kill Switch Act nevű törvényt, amely felhatalmazná a hatóságokat a rosszindulatú AI-modellek leállítására.