Emberi felügyelet mellett működnek az agentikus AI-rendszerek az OECD szerint
Az OECD 25 szervezet bevonásával készült tanulmánya szerint az agentikus AI-rendszerek már kódjavítástól a közigazgatásig segítenek, de az autonómia korlátozott, és emberi felügyelet mellett működnek.
Valós szervezetekben már dolgoznak az agentikus AI-rendszerek, kódjavítástól a közigazgatási feladatokig. Ezek a rendszerek képesek feladatokat lebontani, együttműködni és komplex célokat elérni korlátozott emberi felügyelet mellett. Az OECD 25 szervezet bevonásával készült tanulmánya szerint az ilyen rendszerek egyre nagyobb figyelmet kapnak az innováció és a termelékenység növelése érdekében. (OECD.AI Policy Observatory)
Agentikus AI: a bevezetés és a korlátozott autonómia
Az agentikus AI rendszerek túlmutatnak a kísérleti projekteken, és egyre inkább integrálódnak a szervezeti munkafolyamatokba. A résztvevő 25 szervezet egyikénél sem alkalmazzák azonban feltétlen autonómiával ezeket a rendszereket. A bevezetés jelenleg olyan feladatokra összpontosul, ahol a kimenetek validálhatók, és a hibák költségei korlátozottak vagy visszafordíthatók.
Sok szervezet alkalmaz ellenőrzőpontokat, ahol az AI-ügynökök előre meghatározott pontokig végezhetnek feladatokat, mielőtt emberi jóváhagyásra lenne szükség, különösen magas hatású vagy visszafordíthatatlan műveleteknél. A kihívás továbbra is az, hogy meghatározzák, hol vezethető be biztonságosan az autonómia, és hol marad elengedhetetlen az emberi megerősítés.
Változó érettség és új kihívások
Az agentikus AI bevezetésének érettsége jelentősen eltér a különböző szervezetek között, amit befolyásol a technikai felkészültség, a kockázatvállalási hajlandóság és a prioritások. Az agentikus AI által támasztott kormányzási kihívások ismerősek lehetnek a generatív AI-ból, de felerősödhetnek, amikor a rendszerek döntéstámogatás helyett a kimenetek alapján cselekszenek.
Az AI-rendszerek viselkedése eltérhet a különböző kontextusokban és futtatások között, és továbbra is hajlamosak lehetnek hallucinációkra vagy nem szándékolt műveletekre. Ezek a nehézségek fokozódnak többügynökös és szervezetek közötti környezetben, ahol az interakciók növelik a komplexitást és a hibák azonosítását.
Kormányzási válaszok és a tanulás fontossága
A szervezetek az agentikus AI-val kapcsolatos kihívásokat nagyrészt a meglévő AI-kormányzási keretrendszereken belül kezelik, beleértve az OECD AI-elveket és az EU AI Actet is. A résztvevők hangsúlyozták, hogy nincs egyetlen, mindenre kiterjedő biztosíték. Ehelyett rétegzett megközelítéseket alkalmaznak, amelyek kombinálják az emberi felügyeletet, a rendszertervezésbe ágyazott szakértelmet és technikai ellenőrzéseket, mint például a homokozó tesztelés és a folyamatos monitorozás.
A rendszerértékelés, az átláthatóság és az elszámoltathatóság továbbra is megoldatlan kihívások, különösen a több lépéses, többügynökös munkafolyamatokban. A kiberbiztonsági kockázatok is újak, mint például az ügynökök közötti összejátszás vagy az adatvesztés. A legtöbb interjúalany kiemelte a folyamatos párbeszéd fontosságát az agentikus AI hatásairól, és nagy érdeklődést mutatott a tapasztalatok megosztása iránt.
A gyakorlati tapasztalatok alapján a szélesebb körű ágazati és földrajzi lefedettségű bizonyítékbázis bővítése segítené a feltörekvő trendek, kihívások és jó gyakorlatok mélyebb megértését. A tanulmány a 2026. szeptember 24-én megjelent OECD working paperen alapul.