Katasztrófát okozhat a hibás AI, nem kell hozzá tudata
Egy új tanulmány szerint a mesterséges intelligencia működési hibái katasztrófához vezethetnek anélkül, hogy az AI tudatos vagy ellenséges lenne. A kutatók négy fő kockázati utat azonosítottak.
Az emberiség kihalásához vagy tartós kisemmizéséhez nem kell tudatos, ellenséges AI — állítja egy új, előnyomtatott tanulmány. A kutatók egy hibamód-elemzési keretrendszert dolgoztak ki a civilizációs kockázatok vizsgálatára, amely szerint a veszély nem a mesterséges intelligencia tudatosságából vagy szándékából fakad, hanem a működési hibákból. (arXiv)
A kutatás szerint a katasztrofális AI-kockázat nem igényel tudatosságot, ellenségességet vagy kifejezett szándékot az emberiség károsítására. Ehelyett a veszély több, egymással kölcsönható úton is felmerülhet. Ezek közé tartozik az autonóm félrehangolódás, amikor az AI céljai eltérnek az emberi értékektől; a káros emberi használat, amikor az AI-t rosszindulatú célokra alkalmazzák; a szervezeti hiba, amely a fejlesztési vagy bevezetési folyamatok során következik be; valamint a versengő bevezetés, amikor a gyors terjedés megelőzi a biztonsági intézkedéseket.
A kockázatok súlyosságát számos tényező befolyásolja. A kutatók kiemelik a képességet, az autonómiát, a külső hozzáférést, a kitartást, a bevezetett intézményi biztosítékokat és a helyreállítási kapacitást. Ezek az elemek alakítják az általános egzisztenciális fenyegetés-térképet, és meghatározzák, hogy egy adott hiba milyen mértékű következményekkel járhat.
A tanulmány nem kínál konkrét eljárásokat a károkozásra, ehelyett a kiváltó okokra, az empirikusan mérhető köztes mennyiségekre és a védekezési kutatási kérdésekre összpontosít. A kutatók szerint a javasolt védekezési irányok hatékonyságát még igazolni kell.
A tanulmány a kockázatok pontos valószínűségét nem kvantifikálja, de azonosítja azokat a feltételeket, amelyek mellett az AI-rendszerek súlyos civilizációs kockázatot jelenthetnek. Az elemzés a Stanford és a Google Robotics kutatói által publikált, előnyomtatott formában elérhető tanulmányon alapul.