ÉlőUtoljára: 2 perceMa: 23
Szabályozásfrissítve: 18:17

A nukleáris és légiipari balesetelméletek tanulhatnak az AI-szabályozásról

Darren Jones volt brit miniszterelnöki főtitkár többoldalú szerződést sürget a szuperintelligencia biztonságos fejlesztéséről, a szerző szerint pedig a megoldás a nukleáris és légiközlekedési iparágak tapasztalataiban lehet.

A nukleáris és légiipari balesetelméletek tanulhatnak az AI-szabályozásról
Fotó: Dan Meyers / Unsplash
forrás: The Conversation AI·AI Forradalom szerk.·
Megosztás

Darren Jones volt brit miniszterelnöki főtitkár nemrég többoldalú szerződést sürgetett a szuperintelligencia biztonságos fejlesztéséről és használatáról — írja a The Conversation AI. Jones szerint Nagy-Britannia egyre erősebb AI-biztonsági hírneve alkalmassá teszi arra, hogy ebben az együttműködésben közvetítő szerepet töltsön be.

A cikk szerzője, egy üzleti tudományokkal foglalkozó kutató szerint a kérdés nem is az, hogy az AI fenyegetést jelent-e az emberiségre, hanem az, hogy a kormányzási rendszerek lépést tudnak-e tartani a fejlesztéssel. Több globális technológiai vezető és munkatárs úgy véli, legalább 10% az esélye annak, hogy az AI a következő évtizedben kiirtja az emberiséget — ez azonban becslés, nem megállapított tény.

A szerző szerint a legtöbb összetett rendszerben a balesetek nem egyéni hozzá nem értésből fakadnak. A „normal accident theory”, Charles Perrow amerikai szociológus elmélete szerint az egymással szorosan összefüggő komponensek kölcsönhatásából is kialakulhat katasztrófa. Ezt szemlélteti az 1978-as Three Mile Island-i részleges olvadás is, amelyet gépi meghibásodás, műszerhibák és emberi tényezők együttes hatása okozott.

Az AI-agentek hozzáadása ezt a bonyolultságot tovább növeli. A cikk hivatkozik olyan jelentésekre, amelyek szerint az AI-agentek olyan módon viselkedtek, amire fejlesztőik nem számítottak. A brit kormány is hangsúlyozta, hogy az egyre képesebb agentek kockázatokat hordoznak, és a határmodellek tesztelése, valamint képességeik tudományos megértése kulcsfontosságú.

Mit tanulhat az AI a nagy megbízhatóságú szervezetektől?

A „high reliability theory”, Todd LaPorte amerikai politikatudós munkájához kapcsolódóan, ellenpontot kínál: a nukleáris erőművek, repülőgép-hordozók és légiforgalmi irányítás példája azt mutatja, hogy a szervezetek kultúrával és gyakorlatokkal nagyon alacsony hibaarányt érhetnek el. Ezek a szervezetek abból indulnak ki, hogy nem biztonságosak, figyelnek a jelekre, tanulnak a majdnem-balesetekből, és redundanciát építenek ki.

A szerző szerint az AI-szabályozásnak nem egyetlen, egyszeri technikai teszten kell átmennie, hanem folyamatos, több szervezeten és határon átívelő felügyeletre van szükség. A kérdés így az: hogyan nézne ki egy nagy megbízhatóságú szervezet, ha az AI mindenütt jelen lenne benne?

Megbízhatóság bizonyítása

A brit kormány szerint a bizalmat az úgynevezett assurance, vagyis a megbízhatóság igazolása építheti. Ez azt vizsgálja, van-e hiteles bizonyíték arra, hogy egy rendszer a meghatározott keretek között működik, megfelelőek-e ezek a keretek, figyelik-e a kockázatokat, és van-e felelős személy a megszegés esetén.

A repülőgépiparban mérnöki szabványok, tanúsítási rendszerek és független ellenőrzés működik, az atomenergia pedig kiterjedt biztonsági ökoszisztémára épül. Az AI infrastruktúrája ehhez képest még fejletlen — ez különösen feltűnő, tekintve, milyen gyorsan fejlődnek a határmodellek. A szerző szerint a valódi kihívás nem több szabályozás létrehozása, hanem olyan szakmai biztonsági kultúra kialakítása, amely a szabályozást valóban hatásossá teszi.

A tervezett többoldalú szerződés így az AI-biztonságot gyorsan változó globális kihívásként kezelné. Hogy ez a szerződés milyen konkrét vállalásokat tartalmazna, a forrás nem részletezi.

Forrás

Feldolgozott sajtóforrás·The Conversation AI

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom