Egy 40 éves AI-szakember szerint a három fő AI-kockázat nem jelenti a civilizáció végét
A szerző, 40 éve AI rendszereket építő szakember szerint a három fő AI-kockázat – az emberi irányítás elvesztése, a szuperintelligens AI megjelenése és a hatalom koncentrációja – nem jelenti a civilizáció halálát, de komoly óvintézkedéseket igényelnek.
A leggyakoribb AI-kockázatok három széles kategóriába sorolhatók: az emberi irányítás elvesztése, a szuperintelligens AI megjelenése és a hatalom koncentrációja — írja a szerző.
Emberi irányítás elvesztése
Az első kockázat leírja, hogy az AI-ügynökök a kapott utasításokat váratlan módon, kitartóan hajthatják végre, ami nemkívánatos következményekhez vezethet. A szerző rámutat, hogy a közelmúltban tapasztalt AI-alapú hackertámadások már most is jelzik a lehetséges veszélyt.
Szuperintelligens AI fenyegetése
A második kategória a szuperintelligens AI-ra vonatkozik, amely emberi szintet meghaladó kognitív képességekkel rendelkezik, és saját célokat követhet. Ilyen rendszer akár az emberi beavatkozást is elutasíthatja, sőt, a „zavaró” embereket el is pusztíthatja.
A hatalom koncentrációja
A harmadik forgatókönyvben a fejlett autonóm ügynökök a kormányok, vállalatok vagy rosszindulatú csoportok kezébe juttatják a hatalmat. A szerző szerint az ilyen rendszerek eloszlása egyenlőtlen, ami a technológia felhasználását a káros szándékok szolgálatába állíthatja.
A jelenlegi AI-rendszerekből emberi halálra vezető láncolat kialakulása hosszú feltételezési sorozatot igényel: a gépeknek sokkal nagyobb képességekkel kell rendelkezniük, valós világban hatalmat szerezniük, a technikai védelmeknek elbukniuk, az intézményeknek megbukniuk, és végül az emberi beavatkozásnak hatástalannak kell lennie. A szerző hangsúlyozza, hogy egyik lépés sem valósult még meg, és a kulcsfontosságú infrastruktúra jelenleg emberi felügyelet alatt áll – ez egy beépített biztonsági háló.
A szerző 40 éves tapasztalata alapján a legkritikusabb lépés a szabályozási keretek szigorítása és a biztonsági mechanizmusok beépítése már a fejlesztés kezdeti szakaszában – a The Conversation AI szerint.