Az AI már most is felgyorsítja saját fejlesztését, az Anthropic esete
Az METR-jelentés szerint az Anthropicnál a kapacitásfejlődés az elmúlt egy évben kétszeres sebességgel zajlik az azt megelőző tizenkét hónaphoz képest — Ajeya Cotra elemzése szerint ez már átlépi a cég saját "drámai gyorsulás" küszöbét.
Az Anthropic a legutóbbi S1 dokumentumában azt írta, hogy "közelíthet" a Felelős Skálázási Szabályzatában (RSP) meghatározott "drámai AI-okozta gyorsulás" küszöbéhez. A szabályzat júliusi, hatályos verziója szerint a küszöb akkor teljesül, ha a cég a teljes kapacitásfejlődést a mesterséges intelligencia előtti leggyorsabb tartós ütem kétszeresének látja vagy várja — írja Ajeya Cotra a Planned Obsolescence blogon. (Hacker News)
Cotra az METR kutatóinak nyilvános jelentésére hivatkozva úgy látja, hogy a küszöböt már át is lépték. A jelentés szerint 2025 októbere és 2026 októbere között az Anthropic kapacitásfejlődése nagyjából kétszer olyan gyors volt, mint az azt megelőző tizenkét hónapban. A mérés az Epoch Capabilities Index egy belső változatán (AECI) alapul; a további, alátámasztó bizonyítékok nagy része redaktált. A szerző szerint ez a rész adja a jelentés leginformatívabb bizonyítékainak nagyobbik hányadát.
Mi áll a gyorsulás mögött
A jelentés szerint a tempó az összetett okok miatt kezdett el emelkedni, de a mostani gyorsulás nagy részét valószínűleg az AI-automatizált AI-kutatás adja. Az erre utaló érveket a jelentés szintén redaktálta. Cotra ezt tartja a legfontosabb AI-kockázati frissítésnek az elmúlt években — többet nyomva a latban, mint a közelmúltbeli Hugging Face-támadás.
Ha az egész kapacitásfejlődés kétszeresére gyorsul, a mögötte álló kutatói munka hatékonyságának sokkal nagyobb mértékben kell nőnie. A szerző egyszerű modellel számolva úgy becsüli, hogy a kutatói munka hatékonyságának nagyjából 4-9-szeresére lenne szükség. A mostani szint még ennél is magasabb lehet: Cotra szerint akár 10-szeres is lehet, ami egybeesik az Anthropic munkatársainak informális becslésével, akik körülbelül 12-szeres hasznot jeleznek a belső modellek használatától.
Rövidülő időkeretek
Cotra szerint a jelentés a külső kutatók — köztük az AI 2027 csapat — eddigi becsléseinél sokkal rövidebb időkeretekre utal. A szerző hangsúlyozza, hogy a számok bizonytalanok, és a redaktált bizonyítékok miatt a következtetés nem ellenőrizhető teljes egészében. Azt is kiemeli, hogy nem dolgozott a projekten, és nem látta a teljes jelentést.
Ha a gyorsulás tovább nő, a kutatási sebesség tovább emelkedhet, de a jelentés szerzői nem találtak olyan szűk keresztmetszetet vagy meredek hozadékcsökkenést, amely ezt megakadályozná. Cotra egyszerű extrapolációja szerint a jelenlegi ütem mellett a szuperintelligencia akár egy éven belül is elérhető lehet, miközben a valóságban a folyamatot előbb-utóbb valamilyen gyakorlati korlát fékezi.