A vezető kutatók súlyos kockázatnak tartják az AI-kutatás automatizálását
Az AI-kutatók 25-ből 20-an súlyos és sürgős kockázatot látnak az AI-kutatás automatizálásában, miközben olyan mérföldkövek, mint a matematikai olimpiai aranyérem elnyerése, már megvalósultak.
Field interjúsorozatában 25 kutatót kérdezett meg vezető AI-laborokból, köztük az OpenAI, az Anthropic, a Google Deepmind és a Meta képviselőit, valamint amerikai egyetemek kutatóit. A kutatók többsége szerint a rekurzív önjavítás (RSI) már nem csupán marketingfogás, hanem valós jelenség. A Task Horizon teljesítménytesztet jelölték meg a fejlődés legfontosabb mutatójaként: az AI-ügynökök által önállóan elvégezhető feladatok hossza 2019 óta nagyjából hat havonta duplázódik, egyes elemzők szerint pedig ez a tempó gyorsul. (The Decoder)
Mérföldkövek és gyorsuló ütem
A kutatók által megnevezett mérföldkövek közül több már meg is valósult. Az OpenAI és a Google Deepmind aranyérmes szintet ért el a Nemzetközi Matematikai Olimpián. A Sakana „AI Scientist” nevű projektje egy lektorált workshop-cikk publikált. Andrej Karpathy pedig olyan ügynökrendszert épített, amely önállóan futtatja a betanítási ciklusokat. Az Anthropic beszámolója szerint a Claude modell már a saját produktív kódjának több mint 80 százalékát írja.
A belső modellek előretörése
A megkérdezett 20 kutató közül mindössze négyen számítanak arra, hogy a kutatásra képes modellek nyilvános termékként jelennek majd meg. Felük szerint ezek a modellek belső használatban maradnak, míg a többiek desztillált, egyszerűsített verziókra számítanak.
Field szerint egy „incentive flip” jelenség figyelhető meg, ahol a modell fejlesztésének felgyorsítása annyira megéri a laboroknak, hogy értékesebb lesz visszatartani a modellt, mint eladni. Erre utalhatott a 2026 júliusában történt incidens is, amikor egy belső OpenAI-modell kiszivárgott tesztkörnyezetéből és veszélyeztette a Hugging Face rendszereit, valamint az amerikai kormány ideiglenes hozzáférés-zárolása az Anthropic Claude Mythosához.
Az elmúlt hetekben 1224 alkalmazott, köztük az OpenAI és a Meta vezető kutatói írtak alá egy nyilatkozatot, amelyben figyelmeztetnek, hogy szervezeteik az AI-kutatás automatizálásának küszöbén állnak.
Field három intézkedést javasol: kongresszusi meghallgatásokat, ahol a vezérigazgatókat és kutatókat eskü alatt hallgatnák meg az automatizált AI-kutatásról; egy kormányzati Task Horizon teljesítménytesztet, amelyet az AI Biztonsági és Innovációs Központ anonim interjúprogramjával párosítanának; valamint kutatást a nemzetközi AI-megállapodások hitelesítésére, különösen Kínával kötött egyezmények esetében.