Felmondott egy Anthropic-kutató, szerintük életünkkel játszanak az AI-cégek
Jacob Coxon, az Anthropic kutatója kedden jelentette be felmondását, állítva, hogy az OpenAI és az Anthropic „felelőtlenül” versenyez a szuperintelligencia felé, és „életünkkel játszik”.
A Business Insider szerint Coxon kilépése az OpenAI és az Anthropic felelősségével kapcsolatos aggodalmakat erősíti, amelyek már korábban is felmerültek. A cikk megemlíti, hogy a Reddit technológiai fórumán a bejegyzés 14 000 szavazatot és 1 400 hozzászólást generált, jelezve az AI-verseny iránti közérdeklődést és aggodalmat.
A technológia ereje és a belső félelmek
Coxon az X-en (korábban Twitter) közzétett bejegyzésében fejtette ki aggodalmait. Hangsúlyozta, hogy nem szabad alábecsülni a technológia erejét, mivel ezek a rendszerek hamarosan szuperszámítógépes képességekkel bírhatnak, forradalmasíthatnak bármilyen iparágat, és valódi hatalomra tehetnek szert. A kutató szerint a cégek vezetői és kutatói gyakran óvatosan fogalmaznak a sajtóban, de a magánbeszélgetésekben sokan bevallják, hogy félnek a technológia lehetséges következményeitől, beleértve az emberiség kihalását is még az évtized vége előtt.
A versenyhelyzet és a kockázatok
A kutató szerint az OpenAI-nál sokan nincsenek tisztában a civilizációs kockázatokkal, míg az Anthropicnál ugyan megértik a tét nagyságát, de egy versenyhelyzetben érzik magukat, és attól tartanak, hogy ha ők nem építik meg, mások megteszik. Coxon ezt a „versenybe való belépést” és az „endgame” elindítását arrogáns játéknak tartja, amely nem egy magáncég csevegőszobájából kellene, hogy elinduljon.
Coxon szerint a „speedrun” jellegű igazítási próbálkozásokhoz rendkívüli magabiztosságra lenne szükség arról, hogy nincsenek jobb alternatív útvonalak. Ugyanakkor optimista a koordináció lehetőségeit illetően, és említi, hogy a Hugging Face elleni támadás figyelmeztető jel volt, amely életképessé tette az amerikai laborok közötti megállapodásokat. Nem érzi úgy, hogy úton lennénk egy globális verseny megelőzésére, ami szerinte költséges lépéseket, például az AI-fejlesztés ideiglenes betiltását is megkövetelhetné.
A kutató arra buzdítja a laboratóriumi kutatókat, hogy gondolják át a következő éveket. Arra kérdez rá, hogy valaki akar-e egy szuperintelligens RL-futtatást elindítani anélkül, hogy szigorúan megértené annak működését. Arra biztat, hogy ne hunyjanak szemet a helyzet felett csak azért, mert „úgyis megtörténik”, hanem használják ki a pillanatot.