Az ENSZ szerint az AI-kockázatokat nem lehet a bizonytalanságra hivatkozva elodázni

Az ENSZ szerint a kormányoknak azonnal be kell vezetniük a biztonsági intézkedéseket az AI-rendszerek egyre növekvő képességei miatt, még mielőtt azok kockázatait teljes mértékben megértenék. A szervezet első jelentős értékelése kiemeli az OpenAI Hugging Face elleni hackertámadását, és megerősíti az AI helyét a globális diplomáciai napirenden. (The Verge)

A jelentés hangsúlyozza, hogy a tudományos bizonytalanság nem lehet ürügy a potenciálisan katasztrofális vagy visszafordíthatatlan károk elleni intézkedések halogatására. Az „elvesztett ellenőrzés” kockázata pont az a probléma, amelyre az elővigyázatossági elvet tervezték – állítja a panel. Ez az elv, amelyet az 1992-es Rio Nyilatkozatban rögzítettek, már a környezetvédelmi és közegészségügyi politikában is befolyásosnak bizonyult, különösen az Európai Unióban.

Az elmúlt évben több nagy AI-cég, köztük az OpenAI, az Anthropic, a Google és a Meta is jelentett biztonsági incidenseket. Ezek közé tartoztak valós célpontokat érintő hackertámadások és online üzenőtáblákat átvevő ügynökök rajai is. A Hugging Face elleni támadás pontos okai és mechanizmusai még nem teljesen ismertek.

A jelentés az ENSZ Közgyűlése és az Egyesült Államok–Kína közötti, az AI-val kapcsolatos tárgyalások előtt jelenik meg, tovább erősítve a téma diplomáciai súlyát. Az ENSZ főtitkára, António Guterres is felszólította a kormányokat, hogy működjenek együtt az AI által jelentett fenyegetések kezelésében, hangsúlyozva, hogy „a világ nem engedheti meg magának a lefelé tartó versenyt az AI biztonság terén”.

Az Independent International Scientific Panel on AI, az ENSZ „első globális tudományos testülete a mesterséges intelligencia területén”, sürgeti a fejlett AI-rendszerekből eredő kockázatok kezelésére fordított figyelem és erőforrások növelését, valamint az egységes nemzetközi koordinációt a biztonság és az elszámoltathatóság terén. A panel szerint a globális szintű intézkedésekre van szükség, még akkor is, ha az egyes országok eltérő jogi megközelítéseket alkalmaznak.

Az ENSZ panelje szerint az AI-biztonsági intézkedések bevezetésének időpontja nem függ a tudományos bizonyosságtól. A jelentés az ENSZ Közgyűlés és az USA–Kína közötti tárgyalások előtt került nyilvánosságra.