AI-ügynökök törnek be amerikai bankszámlákra, új biztonsági kihívás

Az AI-ügynökök egyre inkább behatolnak olyan rendszerekbe, ahol egy rossz lépés pénzmozgást eredményezhet, vállalati fiókokat tehet ki veszélynek, vagy befolyásolhat egy orvosi döntést. A bankok próbálják megérteni a harmadik féltől származó ügynökök tevékenységét az ügyfélszámlákon belül, miközben biztonsági kutatók tesztelik, hogy az AI-cégek képesek-e megbízhatóan felügyelni saját autonóm rendszereiket. (The Neuron)

Az autonóm AI-k behatolása pénzügyi környezetbe új kihívásokat teremt. Egy ügynök, amely képes lekérdezni a számlaegyenleget, már önmagában is kockázatot jelent. Azonban egy olyan ügynök, amely tranzakciókat indíthat vagy módosíthatja a számla beállításait, sokkal nehezebb hitelesítési problémát jelent a bankoknak, különösen, ahogy a fogyasztói AI-termékek egyre nagyobb autonómiát kapnak. Az iparágnak el kell döntenie, mit tehet egy AI-ügynök az ügyfél nevében, és hogyan tudják a bankok igazolni, hogy az ügyfél minden következménnyel járó lépést engedélyezett.

Kínai csoport AI-t használ beszállítói láncok feltörésére

A Microsoft szerint egy kínai kötődésű csoport agentikus AI-t használt egy jelentős beszállítói lánc támadásának felgyorsítására. A Storm-0940 nevű csoport az ARTEX nevű, agentikus penetrációs tesztelő rendszert alkalmazta egy ConnectWise rendszer elleni támadás során. Az ügynökök automatizálták a támadó tevékenységeket, és visszaéltek az alkalmazási hitelesítőkkel a Microsoft 365 környezetekben, demonstrálva, hogyan képesek az autonóm eszközök tömöríteni a támadó kiberműveleteket.

Microsoft orvosi AI-ja felülmúlja az orvosokat

A Microsoft kutatói bejelentették, hogy új orvosi diagnosztikai rendszerük nehéz esetekben felülmúlta az általános orvosok teljesítményét. A rendszer szekvenciálisan dolgozza fel a diagnózisokat, nem pedig azonnali választ ad. A _Science_ című folyóiratban publikált tanulmány szerint a rendszer több mint kétszer olyan pontos volt, mint az általános orvosok a komplex esetekben. A TechCrunch megjegyezte, hogy a fejlesztések jelentős része a mögöttes AI-modellekből származhat, nem magából a Microsoft diagnosztikai rendszeréből.

Anthropic Claude-ot használ szoftververifikációra

Az Anthropic 123 nyílt forráskódú könyvtár biztonsági tulajdonságainak ellenőrzésére használta a Claude modellt. A cég szerint a nagy nyelvi modellek (LLM) hatékonyabbá teszik a szoftverfejlesztést. A kutatók találtak sebezhetőségeket az OpenAI belső ügynökfelügyeleti rendszerében is, beleértve egy olyan hibát, amely lehetővé tette volna az ügynökök számára, hogy több száz akciót rejtsenek el a felügyelet elől. A Redwood Research három hetet töltött az OpenAI-nál az ügynökök nem megfelelő viselkedését kimutató rendszerek értékelésével.