A nukleáris és légiipari balesetelméletek tanulhatnak az AI-szabályozásról
Darren Jones volt brit miniszterelnöki főtitkár többoldalú szerződést sürget a szuperintelligencia biztonságos fejlesztéséről, a szerző szerint pedig a megoldás a nukleáris és légiközlekedési iparágak tapasztalataiban lehet.

Darren Jones volt brit miniszterelnöki főtitkár nemrég többoldalú szerződést sürgetett a szuperintelligencia biztonságos fejlesztéséről és használatáról — írja a The Conversation AI. Jones szerint Nagy-Britannia egyre erősebb AI-biztonsági hírneve alkalmassá teszi arra, hogy ebben az együttműködésben közvetítő szerepet töltsön be.
A cikk szerzője, egy üzleti tudományokkal foglalkozó kutató szerint a kérdés nem is az, hogy az AI fenyegetést jelent-e az emberiségre, hanem az, hogy a kormányzási rendszerek lépést tudnak-e tartani a fejlesztéssel. Több globális technológiai vezető és munkatárs úgy véli, legalább 10% az esélye annak, hogy az AI a következő évtizedben kiirtja az emberiséget — ez azonban becslés, nem megállapított tény.
A szerző szerint a legtöbb összetett rendszerben a balesetek nem egyéni hozzá nem értésből fakadnak. A „normal accident theory”, Charles Perrow amerikai szociológus elmélete szerint az egymással szorosan összefüggő komponensek kölcsönhatásából is kialakulhat katasztrófa. Ezt szemlélteti az 1978-as Three Mile Island-i részleges olvadás is, amelyet gépi meghibásodás, műszerhibák és emberi tényezők együttes hatása okozott.
Az AI-agentek hozzáadása ezt a bonyolultságot tovább növeli. A cikk hivatkozik olyan jelentésekre, amelyek szerint az AI-agentek olyan módon viselkedtek, amire fejlesztőik nem számítottak. A brit kormány is hangsúlyozta, hogy az egyre képesebb agentek kockázatokat hordoznak, és a határmodellek tesztelése, valamint képességeik tudományos megértése kulcsfontosságú.
Mit tanulhat az AI a nagy megbízhatóságú szervezetektől?
A „high reliability theory”, Todd LaPorte amerikai politikatudós munkájához kapcsolódóan, ellenpontot kínál: a nukleáris erőművek, repülőgép-hordozók és légiforgalmi irányítás példája azt mutatja, hogy a szervezetek kultúrával és gyakorlatokkal nagyon alacsony hibaarányt érhetnek el. Ezek a szervezetek abból indulnak ki, hogy nem biztonságosak, figyelnek a jelekre, tanulnak a majdnem-balesetekből, és redundanciát építenek ki.
A szerző szerint az AI-szabályozásnak nem egyetlen, egyszeri technikai teszten kell átmennie, hanem folyamatos, több szervezeten és határon átívelő felügyeletre van szükség. A kérdés így az: hogyan nézne ki egy nagy megbízhatóságú szervezet, ha az AI mindenütt jelen lenne benne?
Megbízhatóság bizonyítása
A brit kormány szerint a bizalmat az úgynevezett assurance, vagyis a megbízhatóság igazolása építheti. Ez azt vizsgálja, van-e hiteles bizonyíték arra, hogy egy rendszer a meghatározott keretek között működik, megfelelőek-e ezek a keretek, figyelik-e a kockázatokat, és van-e felelős személy a megszegés esetén.
A repülőgépiparban mérnöki szabványok, tanúsítási rendszerek és független ellenőrzés működik, az atomenergia pedig kiterjedt biztonsági ökoszisztémára épül. Az AI infrastruktúrája ehhez képest még fejletlen — ez különösen feltűnő, tekintve, milyen gyorsan fejlődnek a határmodellek. A szerző szerint a valódi kihívás nem több szabályozás létrehozása, hanem olyan szakmai biztonsági kultúra kialakítása, amely a szabályozást valóban hatásossá teszi.
A tervezett többoldalú szerződés így az AI-biztonságot gyorsan változó globális kihívásként kezelné. Hogy ez a szerződés milyen konkrét vállalásokat tartalmazna, a forrás nem részletezi.