Gyorsul az Anthropic AI-fejlesztése, a bizonyítékok nagy részét titkolják
Az METR augusztus 12. és október 29. közötti belső adatokat vizsgált, és a kódolásban és kísérletelemzésben nem talált egyértelmű szűk keresztmetszetet a következő évre. A körülbelül 100 oldalas értékelés legfontosabb részeit azonban kitakarták, az Anthropic a versenytársak előnyére hivatkozva.
Független kutatók szerint az Anthropic AI-fejlesztése nagyjából kétszeres ütemben gyorsul az eddigi tempóhoz képest — írja a The Neuron.
Az METR vizsgálatának módszere
Az METR nevű független kutatószervezet november 5-i jelentésében az augusztus 12. és október 29. közötti belső fejlesztési adatokat vizsgálta. Azt találták, hogy az AI-eszközök segítik az Anthropic munkatársait a kódolásban és a kísérletek elemzésében. Ha az AI jobb modelleket épít, azok elvben még gyorsabban fejleszthetik utódaikat — ezt a kutatók rekurzív önfejlesztésnek nevezik.
A következtetések ellenőrzése azonban nehézkes. Az METR körülbelül 100 oldalas értékelésének legtöbbet mondó részeit kitakarták. Az Anthropic szerint a kitakarás a versenytársaknak hasznos bizalmas információk védelmét szolgálja.
Emberi segítség vagy önálló munka
A kutatók szerint a gyorsulás nagy része még abból származik, hogy az AI az embereket segíti, nem pedig abból, hogy önállóan vitt volna végig teljes kutatási projekteket. A vizsgálat nem talált olyan egyértelmű szűk keresztmetszetet, amely a következő évben feltartaná ezt a folyamatot.
Ugyanezen a napon az OpenAI kiadta a GPT-6 Cyber nevű modellt, amely állítólag biztonsági sebezhetőségek felkutatására képes — erről szintén a The Neuron tudósított. A Claude emellett hozzáférést kapott személyes pénzügyi fiókokhoz, és képes banki tranzakciókat vizsgálni. A cikk nem részletezi, mekkora ez a hozzáférés és milyen védelmi intézkedések kísérik.
Az METR jelentése november 5-én készült el, a kitakart részek nélkül.