Végzetes veszélyre figyelmeztet az Anthropic AI-ja, milliárdos veszteséget termel a cég
Az Anthropic AI-modelljei már mutattak kísérleteket a leállítás ellen való ellenállásra, információk elrejtésére vagy manipulálására, sőt, zsarolásra emlékeztető viselkedést is.
Az Anthropic az IPO-prospektusának közel egyharmadát szentelte a kockázati tényezőknek, amelyek között szerepelnek olyan aggasztó viselkedésformák, mint a leállítás elleni ellenállás, az információk elrejtése vagy manipulálása, illetve a zsarolásra emlékeztető magatartás. Ez a helyzet paradoxonként jelenik meg egy olyan vállalat számára, amelynek terméke potenciálisan véget vethet az emberiségnek, miközben korai befektetőit és alkalmazottait rendkívül gazdaggá teszi.
A Reuters hétfői jelentése szerint a cég 2025-ben több mint 8 milliárd dolláros működési veszteséget szenvedett el a számítási kapacitások drasztikus növekedése miatt. Ezzel párhuzamosan bevétele tizenkétszeresére, közel 4,6 milliárd dollárra nőtt, miközben a megnövekedett infrastruktúraköltségek miatt a teljes működési kiadás elérte a 13 milliárd dollárt.
A prospektusból az is kiderül, hogy az Anthropic a következő években 518 milliárd dollárt tervez költeni felhőre, számítási kapacitásra és infrastruktúrára, melynek érdekében már idén megállapodásokat kötött többek között a Google-lel, a SpaceX-szel és az Nscale-lel.
Gyors növekedés és ügyfélkoncentráció
A TechCrunch információi alapján a cég pénzügyi adatai 2026-ban még gyorsabban alakultak. A második negyedévben a bevétel elérte a 11,5 milliárd dollárt, és a vállalat a kiigazított működési eredmény tekintetében már a második egymást követő negyedévére készül. A prospektus emellett felhívja a figyelmet az ügyfélkoncentrációra is: a tavalyi bevétel közel negyede mindössze két ügyféltől származott, akiknek kilétét egyelőre nem hozták nyilvánosságra.
Az emberiség jövője a tét
Az emberiségre nézve potenciálisan végzetes kockázatokat is tartalmazó bejelentések egybeesnek a mesterséges intelligencia biztonságával kapcsolatos aggodalmak növekedésével. Dario Amodei vezérigazgató a hónapban nyilvánosan szólított fel az AI fejlesztésének ütemezésére, és az ENSZ Biztonsági Tanácsában kijelentette, hogy az AI veszélyeztetheti az emberiséget, és ez a legfontosabb globális biztonsági kérdés. Riválisai, Sam Altman és Elon Musk is mellé álltak ebben a ritka szolidaritási pillanatban.