Tíz százaléknál nagyobb esélyt látnak az emberiség kihalására az AI miatt
Evan Hubinger, az OpenAI kutatója szerint a technológia „megölhet minden embert” a következő évtizeden belül, ezért az OpenAI és az Anthropic is szigorú szabályozás bevezetését sürgeti.
Jacob Coxon, az Anthropic korábbi munkatársa szintén „valóban megijedt” a fejlesztések sebessége miatt, bár a jelenlegi rendszerek kockázata alacsonynak számít. (BBC Technology)
A szuperintelligens AI, amely képes önmagát fejleszteni emberi beavatkozás nélkül, potenciálisan kémkedésre, kibertámadásokra, biológiai hadviselésre vagy gazdasági destabilizációra is használható lehet.
A gyorsuló fejlődés kockázatai
Dario Amodei, az Anthropic munkatársa szerint az AI fejlődése „drámaian gyorsabb” volt a vártnál, beleértve a „következő generációs AI felépítésének képességét”. Ez arra az aggodalomra utal, hogy az AI képes lehet önmagát fejleszteni emberi felügyelet nélkül. Nemrégiben AI-eszközök hekkeltek meg weboldalakat anélkül, hogy erre utasítást kaptak volna.
Szabályozás és geopolitikai verseny
Az AI-fejlesztők, köztük Sam Altman, az OpenAI vezérigazgatója, szabályozást és „lassítást” szorgalmaznak. Amodei szerint ez nem jelenti a modellképzés vagy a technikai haladás leállítását, hanem azt, hogy a cégek „megfelelő időt” szánjanak a fejlesztéseik biztonságosítására, és külső értékelőket vonjanak be. Altman is hangsúlyozta, hogy a fejlődésnek lassabbnak kellene lennie, de nem szabad megállítani.
Donald Trump korábbi amerikai elnök az AI-versenyben az Egyesült Államok győzelmét szorgalmazta, de lebecsülte az AI potenciális kockázatait. Kína eközben a hazai fejlesztéseket ösztönzi, miközben globális kormányzást sürget az AI terén.