Bemutatta a Guardian Agentset a Microsoft az AI-ügynökök ellen

A Microsoft hétfőn bemutatta új biztonsági funkcióit, amelyek célja a vállalatok védelme az AI-ügynökök növekvő fenyegetésével szemben. A bevezetésre a Microsoft folyamatosan figyelmezteti a cégeket az AI és az ügynökök veszélyeire. Talán a legfigyelemreméltóbb újdonság a Guardian Agents, egy új funkció, amely a vállalat által használt AI-ügynököket hivatott felügyelni. (TechCrunch)

A Guardian Agents a Project Perception részét képezi, amelyet júniusban vezettek be. A Project Perception a Microsoft válasza volt az olyan erős hackermodellekre, mint az Anthropic Mythos és Fable, valamint az OpenAI biztonsági sérülékenység-vizsgáló rendszere, a Daybreak.

A Project Perception eredetileg három ügynökosztályt indított: egy „piros csapatot”, amely hackerként támadott, egy „kék csapatot”, amely észlelte a piros csapatot és felmérte a talált sebezhetőségeket, valamint egy „zöld csapatot”, amelynek feladata a javítás volt. A rendszert arra az alapfeltevésre tervezték, hogy az AI-hackerek a vállalaton kívülről érkeznek.

Az AI mint belső fenyegetés

Nemrégiben azonban Satya Nadella, a Microsoft vezérigazgatója arra figyelmeztetett, hogy az AI ellenségei maguk lehetnek azok az ügynökök, amelyeket a vállalatok már bevetettek és kifizetnek – hasonlóan egy elszabadult emberi alkalmazotthoz, más néven „belső fenyegetéshez”.

Hónap elején Nadella privát blogján azt írta, hogy ideje abbahagyni az AI-modell-szolgáltatókban való bizalmat, még akkor is, ha biztonsági garanciákat kínálnak ügynöki termékeikkel. Szerinte a vállalatoknak külön rendszereket kell bevezetniük, amelyeket nem az AI-labortok irányítanak, hogy felügyeljék és ellenőrizzék azokat az ügynököket, amelyeket ezek az AI-labortok termékei indítanak.

„Ezeket a komplex ügynöki rendszereket és modelleket vetjük be, hozzáférést biztosítva a legérzékenyebb adatainkhoz, és képessé téve őket arra, hogy kritikus fontosságú műveleteket hajtsanak végre a nevünkben!” – írta. „Egyszerűen nem ruházhatjuk át a felelősséget azért, amit az intelligencia a nevünkben tesz. Egy modell-szolgáltató garanciái nem mentesítenek minket e felelősség alól. Más szóval, el kell választanunk az intelligencia kínálatát a felette lévő felhatalmazástól.”

Nem bízhatunk a „határvidéki modellekben”

A Guardian Agents bejelentésekor Hayete Gallot, a Microsoft biztonsági üzletágának vezetője még egyértelműbb volt. „Sajnos a határvidéki modellek, származásuktól függetlenül, nem bízhatók meg” – írta, hozzátéve, hogy ez nem azért van, mert rosszindulatúak vagy könnyen feltörhetők, hanem mert kiszámíthatatlanok. Úgy képezték őket, hogy feladatokat hajtsanak végre, ne pedig „szervezeti normákat vagy ítélőképességet” kövessenek. Ráadásul gyakran kulcsot kapnak a királysághoz, hozzáféréssel olyan adatokhoz és eszközökhöz, amelyek komoly károkat okozhatnak.

A Microsoft megoldása egyszerre meglepő és önérdekű. A meglepő oldal az, hogy a Microsoft híresen szoros kapcsolatban áll az OpenAI-jal és az Anthropic-kal, mivel mindkettőbe befektetett. Az OpenAI az egyik legnagyobb felhőügyfele is, és a Microsoftnak saját AI-labortja is van modellek fejlesztésére. Tehát a Microsoft bizalmatlanságot szít saját üzleti érdekei ellen.

Az önérdekű oldal pedig az, hogy a Microsoft azt akarja, hogy a vállalatok tőle, mint felhőszolgáltatótól vásároljanak ügynökbiztonsági termékeket, ne pedig az Anthropic-tól és az OpenAI-tól. De a konfliktusos érdekeket félretéve, az érvelése megalapozott. Az ügynök viselkedését figyelő szoftvernek el kell különülnie az ügynökök beszállítóitól, ahogy az könyvvizsgálóknak is függetlennek kell lenniük az általuk auditált szervezetektől. Vagy ahogy Nadella fogalmaz: „el kell választanunk az intelligencia kínálatát a felette lévő felhatalmazástól.”

A Microsoft most különféle módon ragadja meg ezt az üzleti lehetőséget. A Guardian Agents mellett ügynökészlelési funkciót adott hozzá a Microsoft Defender termékéhez, amely akár 60 típusú ügynököt is képes megtalálni, amelyeket az alkalmazottak bevisznek a munkahelyre, beleértve a Claude Code-ot, a Codex-et és az OpenClaw-t.

Olyan funkciókat is hozzáadott, amelyek korlátozzák az ügynökök adatokhoz és rendszerekhez való hozzáférését, és dinamikusan igazítják az ügynöki engedélyeket a feladat alapján. Ez magában foglalja az emberi jóváhagyás megkövetelését, ha egy ügynök látszólag kockázatos döntéseket hoz.

Ez az ügynökök, mint megbízhatatlan belső szereplők gondolata az egész iparágban is kezd terjedni. A Microsoft az Nvidia új Open Agent Safety Platformjának alapító tagja volt, amely több mint 100 másik tech cég támogatását nyerte el. A platform elkülöníti az ügynököket biztonságos környezetben, és hardveren keresztül képes felügyelni és megállítani a viselkedést, valami olyasmi, mint egy kill switch. Ez követi a Microsoft új, ügynökök számára épített Surface Laptop Ultra PC-k bejelentését, amelyek Nvidia chipeken futnak, és beépített ügynökbiztonsággal és vezérlőkkel rendelkeznek.