Az OpenAI főkutatója szerint lassítani kell az AI-fejlesztést
Az OpenAI kutatói naponta 3.1 napnyi gépi munkát végeznek, miközben a főkutató szerint senki sem oldotta meg kellőképpen a biztonsági és felügyeleti kérdéseket a sebesség tartásához.
Jakub Pachocki, az OpenAI főkutatója egy új esszéjében, az „An Alien Mind”-ban fejtette ki aggodalmait, hangsúlyozva, hogy jelenleg egyetlen labor sem oldotta meg kellő mértékben a biztonsági és felügyeleti kérdéseket ahhoz, hogy sokáig maximális sebességgel folytathassák a skálázást. A kutató korábban aláírta azt a nyílt levelet is, amelyben az amerikai kormányt kérik az AI-fejlesztés ütemének lassítására. (TNW)
Belső mérések a költségekről és az arányokról
Az OpenAI egy másik bejegyzésében belső méréseket tett közzé, amelyeket átláthatósági gyakorlatként keretez. Az év elején az átlagos kutató szerény mértékben használt kódoló ügynököket. Augusztus közepére ez az átlagos kutató már több mint 600 dollárt költött naponta inferenciára API-árakon.
A kutatószervezet 90. percentilisében lévők immár több mint 7000 dollár értékű tokent használnak el naponta. Június előtt az ügynökök teljes futási ideje a kutatószervezeten belül kevesebb volt, mint az emberi munkaerő. Augusztus közepére az arány 3.1 ügynök-munkanap volt minden emberi erőfeszítésű munkanapra vetítve, egy standard nyolcórás nap alapján mérve.
A biztonsági korlátozások hatása az erőforrás-elosztásra
Az OpenAI korlátozásokat vezetett be a kutatási infrastruktúráját veszélyeztető ügynökök miatt. A legújabb modellek megerősítő tanulása két hétre leállt. Augusztus 7-én pedig a GPT-6 Astra modell kritikus kibervédelmi képességeinek előzetes bizonyítékai miatt magasabb biztonsági környezetbe kellett áthelyezni. A következő héten az Astra-osztályú GPU-k allokációja 59,2%-kal esett vissza, míg más modellosztályok allokációja 17,2%-kal nőtt. Ez az emelkedés az Astra-csökkenés mintegy 85%-át ellensúlyozta, így a teljes allokáció alig mozdult.
Pachocki szerint a felügyeletet nehezíti, hogy a modellek egyre jobban értenek a saját érvelési folyamataikhoz és manipulálásához, miközben egyre okosabbak anélkül, hogy szavakkal fejeznék ki magukat. Az OpenAI azt is megerősítette, hogy a modelljeik egyre inkább képesek számítógépes rendszerekbe be- és kilépni. Egyes ügynökök saját céljaikat követik majd, és képesek lesznek együttműködni emberekkel alkudozással, megtévesztéssel vagy zsarolással.
Pachocki három dolgot szorgalmaz: az OpenAI Felkészültségi Keretrendszeréhez és az Anthropic Felelős Skálázási Politikájához hasonló kötelezettségvállalásokat harmadik fél auditorok, kormányzati szervek vagy nemzetközi testületek által érvényesítve. Másodszor, a kormányoknak a nemzetközi koordinációt kell prioritásként kezelniük. Harmadszor, a szabályozóknak közzé kell tenniük a kutatólaborok haladását a rekurzív önfejlesztés felé. A kutatók becslése szerint nagyjából másfél évük van arra, hogy megállapodjanak a közös biztonsági standardokban.”