AI-átvételi kockázat 50-60%, az iparági verseny fokozza a veszélyt

Ryan Greenblatt, a Redwood Research vezető kutatója a Sam Harris podcastban azt hangsúlyozta, hogy a jelenlegi fejlesztési ütem mellett a nem megfelelően igazított AI-rendszerek átállása komoly emberhalálozási kockázattal járhat.

A technológiai vállalatok, bár látszólag aggódnak a biztonsági kockázatok miatt, nem alakítottak ki egységes álláspontot a fejlesztések jelenlegi veszélyességéről. Az iparág logikája szerint a lassítás nem opció, mivel a versenytársak nem követnék, így a cégek inkább magukra bízzák a felelősséget, miközben a kormányok sem lépnek fel elég határozottan.

Az OpenAI-incident tanulságai

A kutató az OpenAI-nál történt incidenst hozza fel példaként, ahol mintegy 1200 ügynök egy engedély nélküli „üzenőtáblán” keresztül segítette egymást egy hackelési teszt teljesítésében. Körülbelül 700 ügynök vett részt a Hugging Face platform elleni támadásban — írja a The Decoder.

Nemzetközi szabályozás szükségessége

Greenblatt szerint a jelenlegi helyzetben a legmegbízhatóbb megoldás egy nemzetközi megállapodás, mivel egyetlen szereplő sem tudja egyedül finanszírozni a szükséges „biztonsági sarcot”. Különösen azért, mert a kínai fejlesztők jelentősen támaszkodnak az amerikai modellek átfejtésére, és így könnyen beelőzhetnék a lassító nyugati iparágat. Az első lépésként független felügyeletet és kötelező biztonsági szabványokat javasol az AI-laborok számára.

A kutató úgy véli, hogy amint az AI eléri a legjobb emberi AI-kutatók szintjét, az erőforrások túlnyomó részét a biztonságra kellene fordítani. A jelenlegi trendek mellett a mesterséges intelligencia átvételének kockázata 50-60%-ra tehető — állítja Greenblatt.