Google közzétette AI Control ütemterv-et – belső AI-ügynökök védelme új szintre lép
A belső AI-ügynökök hibás döntései komoly kockázatot jelentenek a Google termékfejlesztésére és kibervédelmére, miközben a szakértők szerint az ügynökök 2030-ra akár 2,9 trillió dollár gazdasági értéket teremthetnek.
Bemutatta a Google az AI Control Roadmapot, egy több rétegből álló védelmi keretrendszert, amely a belső AI-ügynökök biztonságát hivatott biztosítani a növekvő képességek mellett — írta a Google AI Blog. (Google DeepMind)
Új fenyegetésmodellezés a MITRE ATT&CK alapján
Az ütemterv a MITRE ATT&CK tudásbázist használja, és az AI-ügynököket potenciális belső fenyegetésként kezeli, hasonlóan egy rosszindulatú alkalmazottakhoz. A módszer kisebb taktikákra bontja a lehetséges támadásokat, így a kockázatot időben fel lehet ismerni.
Kapcsolódó: AI-ügynök biztonság
Folyamatos felügyelet és mérőszámok
A rendszer két, megbízható AI‑t alkalmaz felügyelőként, amelyek folyamatosan ellenőrzik az aktív ügynökök gondolatmenetét, cselekedeteit és terveit. A teljesítményt három mutatóval mérik: a forgalom lefedettsége, a hibás viselkedés visszaidézése és a válaszidő. Eddig egy millió kódoló‑ügynök feladatot elemeztek, és a legtöbb jelzés nem rosszindulatú, hanem félreértelmezésből adódott.
Kapcsolódó: lokális AI-védelem
Skálázott védelem a képességek növekedésével
Az ütemterv négy detektálási szintet (D1‑D4) és három megelőzési‑reakciós szintet (R1‑R3) definiál, a modell rejtett gondolatmenete vagy valós idejű támadási képessége alapján. A Gemini Spark ügynök esetében a valós idejű megfigyelő már képes megállítani a véletlen adat törlést.
Kapcsolódó: AI-biztonsági lemaradás
A Google hangsúlyozza, hogy a több rétegből álló védelem nem csak a vállalatot, hanem az egész iparágat érinti; ezért a szerzők egy technikai keretrendszert is közzétettek a döntéshozók számára, amely a három szintű ügynökbiztonságot részletezi.
Kapcsolódó: AI-biztonsági garancia
A roadmapot 2026. június 18-án publikálta a Google, és már több mint egy millió ügynök-tevékenységet elemezve finomította a biztonsági protokollokat, a Gemini Spark ügynök esetében pedig a valós idejű megfigyelő már képes megállítani a véletlen adat törlést.
Kapcsolódó: AI-kockázati szintek