Több mint a közszféra-felelősök fele tartja prioritásnak az AI-t, a kormányok gyorsítanak

A Capgemini Research Institute által készített, 600 vezető közigazgatási szakértőt felmérő kutatás eredményei szerint a megkérdezettek több mint fele vizsgálja, teszteli vagy alkalmazza az ügynökalapú AI-t. Az ügynökalapú AI (agentic AI) bevezetése azonban gyakran megelőzi a szükséges felügyeleti és kormányzási struktúrákat. A válaszadók kevesebb mint negyede állítja, hogy felelős AI gyakorlatai lépést tartanak a bevezetett eszközök sebességével. (AI Business)

Az elavult rendszerek és az adatminőség a fő akadályok

Marc Reinhardt, a Capgemini globális közszféra vezetője szerint a lemaradás évtizedes problémákban gyökerezik. „Az állami szervezetek évek óta küzdenek elavult infrastruktúrával, örökölt rendszerekkel, interoperabilitási és kormányzási problémákkal” – mondta. „Az AI, és különösen az ügynökalapú AI esetében ezek kezelése sokkal sürgetőbbé vált.” Reinhardt szerint a legnagyobb akadályt nem a megfelelő adatalapok hiánya jelenti. Ügynök-alapú AI esetén ez a probléma súlyosbodhat, mivel a rendszereknek széles körű információkhoz és rendszerekhez kell hozzáférniük.

Laura Gilbert, a londoni Tony Blair Institute for Global Change AI for Government programjának vezetője is egyetért abban, hogy a problémát az adatok jelentik a modellek alatt. „Tapasztalataim szerint a technológia ritkán tartja vissza a kormányokat” – mondta. „A valódi hiány az alatta lévő alapokban rejlik.”

Hozzátette, hogy „képességbeli és magabiztossági” hiány is tapasztalható. „Sok kormány annyira kiszervezte a műszaki szakértelmét, hogy nehezen tudja megítélni, mi reális, mi biztonságos, és mi az, amit túl adnak nekik” – tette hozzá. „Senki sem tudja biztosan megválaszolni az ügynök-kérdést: amikor egy szoftver cselekszik, ki a felelős érte? Az állami tisztviselők hiányolják az ösztönzőket a kockázatvállalásra és az innovációra.”

Hol alkalmazzák az AI-ügynököket?

A kormányoknak ezért célzott védőkorlátokat kell bevezetniük az AI-ügynökök hatókörének ellenőrzésére és mérséklésére, anélkül, hogy korlátoznák a használhatóságot. A gyakorlatban ez azt jelenti, hogy a kormányoknak egyértelművé kell tenniük, milyen döntéseket hozhat egy ügynök önállóan, milyen adatokhoz és rendszerekhez férhet hozzá, és mikor kell visszaadnia az irányítást egy embernek. Reinhardt szerint „a kormányoknak az AI köré kell építeniük az adat-, kormányzási és elszámoltathatósági struktúrákat, amelyek lehetővé teszik a felelős skálázást és a mérhető közérték megteremtését”.

Egyelőre a legalkalmasabb alkalmazások azok lehetnek, ahol az ügynökök ismétlődő, nagy volumenű munkát automatizálnak anélkül, hogy közvetlenül befolyásolnák az állampolgárokat érintő kimeneteleket. Reinhardt adminisztratív munkafolyamatokat, dokumentumfeldolgozást, esettanulmányok kezelését, belső IT-folyamatokat, rutinszerű munkafolyamatokat és jóváhagyásokat említett potenciális korai alkalmazásként.

Gilbert hasonlóan vélekedett az alacsony kockázatú, de nagy volumenű területeken való kezdésről. Belső folyamatok, mint a levelezés kezelése, az esetek rangsorolása vagy a bizonyítékok összefoglalása jó kiindulópontok lehetnek, „mert a hibák helyrehozhatók, és az időmegtakarítás könnyen látható”.

Ez építi a magabiztosságot és a bizonyítékbázist a későbbiekben érzékenyebb, állampolgárokkal szembeni munkák vállalásához. Gilbert szerint „korán fontos megérteni a különbséget egy kétirányú ajtó között, ahol a hibák visszafordíthatók, és egy egyirányú ajtó között, ahol nem”. A kockázat szintje azonban jelentősen eltér a különböző használati esetek között, és a megfelelő rendszerek kiépítése kulcsfontosságú a felelős AI-bevezetéshez, különösen a 600 fős mintában vizsgált közszférában.