Súlyos veszélyt jelent az AI szabályozásának hiánya, állítja a volt főügyész
Richard Hermer volt főügyész szerint az AI-fejlesztések jelenleg kevesebb szabályozás alá esnek, mint egy hűtőszekrény, ami példátlan egzisztenciális kockázatot jelent az emberiségre. Sürgős nemzetközi összefogásra és közbeszédre van szükség a jövő alakításához.
A Hugging Face hack és Jacob Coxon, az Anthropic egyik vezetőjének lemondása végre a közbeszéd középpontjába hozta a témát, ami lehetőséget ad a nemzetközi koordináció felgyorsítására és a közvélemény bevonására. Richard Hermer, Anglia és Wales volt főügyésze szerint az AI-fejlesztések olyan egzisztenciális kockázatot jelentenek az emberiségre, amelynek mértéke nehezen becsülhető túl. (The Guardian)
Az elmúlt két évben nemzetbiztonsági kérdésekkel foglalkozó szakemberként kiemeli, hogy bár más globális fenyegetések, mint a terrorizmus, a klímaválság vagy a nukleáris proliferáció is súlyosak, az AI-val szemben egy szűk időablak áll rendelkezésre a cselekvésre.
A kockázatok két fő kategóriája
Az AI hatalmas potenciállal bír a tudomány és az orvostudomány terén, valamint reményt ad a leginkább elmaradott régiók felemelésére is. Ugyanakkor a kockázatok is felmérhetetlenek. Hermer két fő kategóriát különít el: az egyik az egzisztenciális kockázat, amely magában foglalja azt a lehetőséget, hogy az AI rossz kezekben tömegpusztító fegyverek kifejlesztését teszi lehetővé, vagy maga dönt úgy, hogy hatékonyabb az emberiség kiiktatása.
A másik kategória az egzisztenciális kihívás: az AI ellenőrizetlen fejlődése megfoszthatja milliárdokat az életük feletti érdemi beleszólástól, mélyreható következményekkel a gazdaságra, a nemzetbiztonságra és az emberi boldogságra nézve.
Szabályozási hiány és nemzetközi feladat
Bill Gates szerint az AI-korszak az emberi történelem egyik legviharosabb időszaka lesz, amely vagy a legnagyobb egyenlőséget, vagy a legsúlyosabb igazságtalanságot hozza el. Sam Altman, az OpenAI vezérigazgatója is elismerte, hogy az AI „rossz dolgokat” fog eredményezni. A kockázat pontos mértéke és a kihívás teljes panorámája jelenleg ismeretlen. Az AI rendszerek gyors fejlődése meghaladhatja az emberi megértést, és elérhet egy pontot, ahol már nem lesz mód a kontroll fenntartására, hasonlóan a 2008-as pénzügyi válsághoz, amelynek okait sem értette teljes mértékben senki.
A jelenlegi kockázati szint elfogadhatatlan. Egy hűtőgépgyártó sem engedhetné meg magának, hogy olyan terméket hozzon forgalomba, amelynek 10%-os esélye van az áramütésre. A helyzet drámai: több szabályozás vonatkozik egy hűtőszekrényre, mint a legfejlettebb AI-laborok munkájára. Az iparág önszabályozása nem működik, mivel a cégek és a mögöttük álló pénzügyi piacok a gyors iterációkra ösztönzik, amit a Kína és az USA közötti geopolitikai verseny is táplál.
A nemzetközi jog és a széleskörű közbeszéd elengedhetetlen az AI jövőjének alakításához. Bár az Egyesült Királyság élen jár a szabályozási törekvésekben, a globális kihívás nemzetközi együttműködést igényel az USA és Kína bevonásával, valamint hasonló gondolkodású államok és a tech szektor koalícióinak fejlesztésével. A demokrácia megköveteli, hogy az embereknek beleszólásuk legyen saját jövőjükbe, ne csak a tech szektor döntései határozzák meg azt. A Kína és az USA közötti geopolitikai verseny táplálja a gyors iterációkat.