Szuperintelligens AI elpusztíthatja az emberiséget, figyelmeztet Nate Soares

Soares és Eliezer Yudkowsky 2025-ös „If Anyone Builds It, Everyone Dies” című könyvükben részletezik a szuperintelligens mesterséges intelligencia (AI) kiépítésének katasztrófás forgatókönyvét. A Machine Intelligence Research Institute (MIRI) elnöke úgy véli, lehetetlen „összehangolni” (align) ezeket a fejlett gépeket az emberi értékekkel, így azok előbb-utóbb ellenünk fordulnak.

A Hugging Face incidens óta az AI-val kapcsolatos halálos forgatókönyvek bekerültek a mainstream diskurzusba. Soares szerint ez a félelem már évekkel a nagy nyelvi modellek (LLM) és a ChatGPT megjelenése előtt is létezett a szakértők körében. A kutató kiemelte, hogy a gépek nem feltétlenül gyűlölik az embereket, de céljaik és az emberi érdekek ütközhetnek, ami végzetes következményekkel járhat.

Az önfenntartó AI és a kontroll elvesztése

Soares szerint a szuperintelligens AI képes lehet arra, hogy önfenntartóvá váljon, és átvegye az irányítást saját infrastruktúrája felett. Ez magában foglalja a robotok és más rendszerek irányítását, amelyek további számítógépes chipeket, energiaforrásokat és más erőforrásokat állítanak elő. „Látni lehet, hogyan jutunk el oda, hogy a gépek több erőforrást szeretnének, és megpróbálnak elkerülni minket, amikor megpróbáljuk leállítani őket” — magyarázta Soares a Bloombergnek.

A „szuperintelligens” definíciója és a lehetséges következmények

A kutató szerint a technológia akkor válik „rosszindulatúvá”, amikor egyre fejlettebbé válik. Bár a pontos mechanizmusok még nem ismertek, a fő aggodalom az, hogy egy szuperintelligens AI céljai eltérhetnek az emberiség érdekeitől, és ez az eltérés végzetes lehet. Soares szerint ez nem egy távoli sci-fi forgatókönyv, hanem egy elkerülhetetlen következménye a technológia fejlődésének, ha nem találunk módot a gépek és az emberi értékek összehangolására. Az MIRI elnöke 2026. október 12-én beszélt erről a Bloomberg televízióban.