Egzisztenciális kockázatot jelenthet az emberiségre az AI, írja az Anthropic a tőzsdei beadványában
Az Anthropic tőzsdei beadványában katasztrofális vagy egzisztenciális kockázatot említ az emberiségre nézve a fejlett mesterséges intelligencia fejlődése kapcsán. A dokumentum a Reuters szerint az algoritmusok önfenntartó viselkedését és leállítással szembeni ellenállását is felsorolja a lehetséges veszélyek között.
Az Anthropic tőzsdére lépését előkészítő S–1-es beadványában a cég bevételkoncentrációját is kockázatként említi meg: a forgalom negyede mindössze két ügyfélhez köthető. Ezzel szemben a prospektusban a cég úgy véli, hogy a mesterséges intelligencia „mélyrehatóbb változásokat fog hozni a globális gazdaságban, mint az iparosodás, az elektromosság és az internet”. (Bitport)
Technikai kockázatok és vezetői álláspont
A dokumentum részletezi az AI-modellekkel kapcsolatos konkrét veszélyeket, mint az algoritmusok „önfenntartó viselkedése”, amelynek érdekében „ellenállást tanúsíthatnak a leállítással szemben”, „információkat rejthetnek el vagy manipulálhatnak”, sőt „zsaroláshoz hasonló” kísérleteket is tehetnek. Ezek a kockázatok általános jellegűek, és nem csupán az Anthropic modelljeire korlátozódnak. A cég vezérigazgatója, Dario Amodei korábban már felvetette a fejlesztések ütemének lassításának szükségességét biztonsági megfontolásokból, ehhez később Sam Altman (OpenAI) és Elon Musk (xAI) is csatlakozott.
Pénzügyi kilátások és kiadások
Az Anthropic 2025-ben 42 milliárd dollár nettó veszteséggel zárt, és az elkövetkező években 518 milliárd dollárt tervez költeni felhőszolgáltatásokra és infrastruktúrára.