Az AI-agentek token-költségét csökkenti az Okta új szűrővel

Az Okta szerint az identitásalapú Model Context Protocol (MCP) eszközkatalógusok szűrésével csökkenthetők az AI-agentek token-költségei. Minden modellhívás tartalmazza az MCP szerver által közzétett összes eszköz sémáját, nevét, leírását és paramétereit. Az Okta ezt a felhalmozódó prompt-többletet „tool tax”-nak nevezi — írja a mesterséges intelligencia portál. (AI News)

A cég érvelése szerint ez a költség már azelőtt felmerül, mielőtt az agent egyáltalán megkísérelne egy eszközt hívni. Egy jogosulatlan kérés későbbi elutasítása sem tudja visszanyerni az elköltött prompt-tokeneket. Az Okta által javasolt vezérlés szűri az eszközök listáját, mielőtt az a modellhez érkezne, az agent identitásához és a hozzá társított felhasználóhoz rendelt engedélyek alapján.

MCP eszközkémák generálnak prompt-többletet minden körben

Az MCP szerverek egyre inkább az AI-agentek és az eszközök, illetve adatok összekapcsolásának útjává váltak. Az Okta példaként említi a Google Workspace-szel, a Slackkal és belső MCP szerverekkel való kapcsolatokat. Egy MCP szerver nagyszámú eszközt tehet elérhetővé, és a modell minden körben megkapja az elérhető eszközök reprezentációját a promptjában. Ez a reprezentáció tartalmazza az eszközkémát, az eszköz nevét, leírását és paramétereit is.

Az Okta szerint a költség akkor növekszik, ha egy széles körben használt MCP szerver sok eszközt tesz elérhetővé. Minden aktív felhasználó prompt-többletet generál, amikor az agentje modellhívást kezdeményez. A cég ezt egyszerre kezeli eszköz- és felhasználószám-problémaként.

A probléma hozzáférésszabályozási dimenzióval is bír. Egy olyan agent, amely a saját engedélyezési körén kívül eső eszközöket lát, megpróbálhatja használni azokat. A futásidejű elutasítás blokkolhatja a végrehajtást, de a modell már megkapta az eszközdefiníciót, és tokeneket használt fel annak feldolgozásához.

Az Okta az agent promptjának felépítése előtt szűri az eszközöket

Az Okta képességet a „biztonságos, agentalapú vállalati megoldások tervrajza” részeként pozicionálja. Ez arra kéri a szervezeteket, hogy azonosítsák agentjeiket, engedélyezett kapcsolataikat és jogosult cselekedeteiket. Megközelítésük a kapcsolódás kérdését egy teljes MCP szerverhez való hozzáférésről az adott szerveren lévő egyedi eszközökhöz való hozzáférésre szűkíti.

Egy rendszergazda az Okta irányítópulton konfigurálja azokat az eszközöket, amelyeket egy adott identitás használhat. Az Okta ezután a szerver teljes katalógusa helyett a szűrt eszközkészletet adja vissza. Az agent ezt a rövidebb listát kapja meg promptként minden körben. Az Okta szerint futásidőben ismét ellenőrzik a hatókört, mielőtt egy eszközhívás végrehajtódna.

Ez a kialakítás az eszköz szintjén alkalmazza a legkisebb jogosultság elvét. A cég szerint egy agentnek nem szabad tudomást szereznie olyan erőforrásokról, adatbázisokról vagy eszközökről, amelyeket nem kapott kifejezetten használatra felhatalmazást. Az elérhetetlen eszközök eltávolítása a promptból csökkenti a modellhívás sémaköltségét is.

Az Okta belső modellezése kimutatta, hogy egyes engedélyezési forgatókönyvek több mint 90%-kal csökkentették a látható eszközök számát.