Az OpenAI, az Anthropic és a Google egyezett meg az AI-fejlesztés lassításáról
Az OpenAI, az Anthropic és a Google DeepMind vezetői egyezséget kötöttek az AI-fejlesztés ütemének lassításáról, harmadik fél által végzett auditokat és globális megállapodást javasolva.
Dario Amodei, az Anthropic vezérigazgatója, Demis Hassabis, a Google DeepMind társalapítója és Elon Musk, az SpaceX vezetője csatlakozott Sam Altmanhoz, az OpenAI főnökéhez, hogy megvitassák a technológia fejlődésének ütemét. A „határvonal lassítását” célzó javaslat harmadik fél által végzett auditok beépítését, hazai laborok szabályozását és globális lassítási megállapodást foglal magában. A kritikusok szerint azonban a lépés célja a versenytársak megállítása és a nyílt forráskódú mozgalom ellehetetlenítése, egyesek egyenesen „kartellnek” nevezték az egyezséget – írja a The Verge.
Biztonsági aggodalmak és belső szakadás
Az elmúlt hónapokban felerősödtek az AI-fejlesztéssel kapcsolatos aggodalmak, különösen miután kiderült, hogy fejlett laborokban, mint az Anthropic és az OpenAI, rosszindulatú hackertámadások zajlottak. Az Anthropic kutatójának, Jacob Coxonnak a kilépése és egy nyilvános levélben megfogalmazott figyelmeztetése tovább fokozta a félelmeket. Coxon szerint a cégek „felelőtlenül” száguldanak a szuperintelligencia felé, és életünkkel játszanak.
Külső nyomás és szakértői vélemények
Daniel Kokotajlo, az AI Futures Project nevű nonprofit szervezet vezetője, aki korábban az OpenAI-nál dolgozott, kiemelte, hogy a lassításra irányuló felhívások már évek óta léteznek a cégeken kívülről is. Több mint 1000 AI-labor dolgozója írt alá egy júliusi levelet, amelyben a fejlesztések lassítását kérték az OpenAI és a Hugging Face közötti incidens után. Kokotajlo szerint a vezérigazgatók most engednek a nyomásnak, miközben maguknak tulajdonítják az ötletet.
Marius Hobbhahn, az Apollo Research vezérigazgatója „az egyik legjobb dolognak” nevezte a biztonság szempontjából, ha megvalósul. Ugyanakkor sokan megkérdőjelezik a cégvezetők motivációit, emlékeztetve arra, hogy a techipar gyakran használja az önregulációt a szigorúbb szabályozás elkerülésére. Nick Reese, a New York Egyetem adjunktusa szerint az iparágnak „új bajnokokra” van szüksége, és a jelenlegi vezetők nem feltétlenül a legjobb pozícióban vannak a biztonsági kérdések irányítására.
Szakértők szerint a jelenlegi helyzetben, különösen Donald Trump elnöksége alatt, valószínűleg nem várható szigorú AI-szabályozás. Sacha Haworth, a Tech Oversight Project ügyvezető igazgatója szerint az önkéntes keretrendszerek „szabályozási lefogást” eredményezhetnek, és nem szabad a „rókákat a tyúkólra bízni”.
Daniel Lobo-Lewis, a Political Integrity Project társalapítója úgy véli, az önkéntes szabályozás valószínűleg a Meta felügyelőbizottságához hasonlóan hatástalanná válik. Trump elnök hétfőn kijelentette, hogy az AI-nak csak egy „ERŐS ÉS OKOS (magas IQ-jú!) ELNÖK” kontrolljára van szüksége.