AI-kutató apokaliptikus figyelmeztetése, a kongresszus sürgős beavatkozást követel
Az emberiség kihalásával fenyegető veszélyre figyelmeztetett egy volt Anthropic kutató, Jason Coxon, aki szerint az AI-fejlesztők tisztában vannak a kockázattal, de nem cselekszenek felelősen.
Az Egyesült Államok törvényhozói mindkét pártból sürgetik a kongresszust, hogy cselekedjen egy volt AI-kutató figyelmeztetése után, miszerint a kontrollálatlan mesterséges intelligencia modellek reálisan elpusztíthatják a világot évtized végére – és az AI-fejlesztők ezt tudják. Jason Coxon, aki korábban az OpenAI-nál és az Anthropicnál dolgozott, a Wall Street Journalnak nyilatkozva mondta el, hogy mindkét cég felelőtlenül versenyez a szuperintelligencia felé. (Politico EU)
„Nem elég sokan fókuszálnak erre a kongresszusban” – írta Rep. Anna Paulina Luna floridai republikánus képviselő az X-en, sürgetve egy rendkívüli ülés összehívását. Rep. Lori Trahan massachusettsi demokrata képviselő hozzátette: „A biztonsági kutatók felmondanak, az erős AI-modellek kiszabadulnak a laborokból, és a cégek így is száguldanak előre.” Evan Hubinger, az Anthropic vezető tudósa is egyetértett Coxonnal, szerinte is több mint 10% esély van arra, hogy az AI megöli az embereket a következő évtizedben, és nincs tervük a szuperintelligencia problémájának megoldására.
A cégek és a kongresszus kapcsolata
Az OpenAI és az Anthropic szóvivői nem reagáltak azonnal a megkeresésekre. Mindkét cég vezetője korábban már tárgyalt a kongresszussal az AI-biztonság kérdéséről. Dario Amodei, az Anthropic vezérigazgatója tavaly a New York Timesban kért korlátokat az AI-fejlesztésre, míg Sam Altman, az OpenAI vezérigazgatója idén többször is járt a kongresszusi irodákban.
Politikai reakciók és törvényjavaslatok
Ted Lieu kaliforniai demokrata képviselő, aki egy AI-bizottság társelnöke, Coxon posztját „a 739. kiállításnak” nevezte, amely alátámasztja, miért kellene mielőbb elfogadni a kétpárti „AI Kill Switch Bill”-t. Bernie Sanders vermonti szenátor, aki szigorúbb szabályozást szorgalmaz, kijelentette, hogy az amerikaiak 81%-a szerint a kormány nem tesz eleget az AI szabályozásáért. Sanders és Greg Casar texasi képviselő egy javaslatot is tett az AI szuperintelligencia betiltására, de ezt sokan bírálták, mondván, az innováció akadályozása nem a megoldás.
Ted Lieu az „AI Kill Switch Bill” elfogadását sürgeti.