Az OpenAI új programmal segíti a nemzetbiztonsági AI-felügyeletet

Az OpenAI új kezdeményezést indít, hogy segítse a demokratikus felügyeleti szerveket az AI nemzetbiztonsági felhasználásának megértésében és ellenőrzésében. A program célja, hogy a szervek lépést tudjanak tartani az AI-technológia fejlődésével, amely gyorsítja és képessé teszi a nemzetbiztonsági feladatokat, de növeli a hibák terjedésének kockázatát is.

Az AI képes segíteni kiberbiztonsági támadások megállításában, kritikus infrastruktúrák védelmében, korai fenyegetésészlelésben, valamint válsághelyzetekben a köztisztviselőknek tisztább képet adni. Az OpenAI szerint a fejlettebb rendszerek erősebb felügyeletet igényelnek, és ezt az elvet saját magára is alkalmazza a [Preparedness Framework](https://openai.com/index/updating-our-preparedness-framework/) keretében. A cég nem végez felügyeleti szerepet a kormányzatok felett, ez a felelősség a választott tisztségviselőket és a közintézményeket illeti — közölte az OpenAI.

Három alapelv a felügyelethez

Az OpenAI három elv mentén kívánja támogatni a felügyeleti szerveket. Először is, az AI-nak erősítenie kell az emberi és intézményi ítélőképességet, nem helyettesítenie azt. Másodszor, a kormányzati AI-használatnak nyomon követhetőnek és az illetékes felügyeleti szervek számára átláthatónak kell lennie, miközben védik a titkosított, magán- és biztonsági szempontból érzékeny információkat. Harmadszor, az AI-t fel kell használni a demokratikus felügyeleti intézmények megerősítésére, mivel a gépi sebességű rendszerek manuális felügyelete nem skálázható.

Konkrét lépések és támogatás

A következő évben az OpenAI azonosítja a gyakorlati lehetőségeket, ahol AI-eszközök vagy technikai támogatás teheti hatékonyabbá a felügyeletet. A cég ötmilliós támogatást biztosít képzésre, technikai segítségnyújtásra és OpenAI kreditekre a demokratikus kormányzati felügyeleti szervek számára.

Emellett olyan eszközöket pilotál, amelyek segítik az illetékes felülvizsgálókat az AI-asszisztált kormányzati döntésekkel kapcsolatos rekordok — beleértve a releváns bemeneteket, kimeneteket és az eszközhasználatot — vizsgálatában. A részvételt vállaló intézmények, nem az OpenAI, továbbra is ellenőrzést gyakorolnak a bizonyítékok, kimenetek és megállapítások felett, amelyek csak az arra feljogosított kormányzati tisztviselők számára lesznek elérhetők — írja az OpenAI.

A kezdeményezés előrehaladását az alapján mérik, hogy az illetékes felülvizsgálók jobban tudják-e teljesíteni kötelezettségeiket, és a nyilvánosság erősebb okkal bízhat-e abban, hogy a kormányzati AI-rendszereket rendeltetésszerűen használják. Az OpenAI továbbra is támogatni fogja a felügyeletért felelős intézményeket, ahogy a kormányzati AI-használat fejlődik.