Szuperintelligenciát jósol 2030-ra a Dwarkesh Patel, az AI-kutatás automatizálása miatt
A podcaster azt állítja, hogy az METR szerint az Anthropic fejlődési üteme a korábbihoz képest kétszeres, a többletet nagyrészt az AI-alapú kutatás adja.
Dwarkesh Patel háromhónapnyi gondolkodás után úgy látja, a szuperintelligencia közelebb van, mint korábban hitte: szerinte 2030-ra vagy akár jövőre megjelenhetnek olyan AI-rendszerek, amelyek minden területen felveszik a versenyt a legjobb emberi szakértőkkel. Az esszé a dwarkesh.com blogján jelent meg, és a Hacker News is linkelte.
Az érvelés kiindulópontja a már meglévő bizonyíték: az METR független értékelő szervezet három hónapot töltött az Anthropicnál, és arra jutott, hogy a cég jól körülhatárolt feladatokon elért fejlődési üteme a tavalyi kétszerese. Az METR szerint a gyorsulás nagyobb része valószínűleg abból adódik, hogy az Anthropic kiterjedten használ AI-t kutatás-fejlesztésre — írja Patel.
Adatok a saját fejlesztésről
Az OpenAI szeptemberi blogbejegyzése szerint a kutatóik közül a legintenzívebben AI-kódolóagenteket használó 10 százalék napi költése a nyári elején mintegy 1000 dollár volt, augusztus végére viszont meghaladta a 7000 dollárt. Az Anthropic ugyanekkor azt közölte, hogy augusztusra a Claude az AI-kutatás-fejlesztési munka több mint 26 százalékát „vezeti”, ami februárban még egy százalék alatt volt.
A matematika mint előkép
Patel szerint a legfontosabb felismerés az volt, milyen gyorsan robbant ki az AI képessége a matematikában. A jól körülhatárolt, ellenőrizhető feladatokon a modellek már több száz nyitott kérdést oldanak meg, amelyeken korábban évtizedekig dolgoztak a legjobb matematikusok. A szerző szerint ugyanez a mechanizmus működhet az AI-kutatásban is, ahol a fejlesztések nagy része gyakorlati, kísérletileg mérhető újításokból áll.
Ugyanakkor Patel elismeri, hogy a fejlődés egyelőre a jól mérhető területeken a legerősebb: a modellek jobbak az ellenpéldák keresésében, mint új elméletek megalkotásában. Toby Ord ezt a korlátot külön is hangsúlyozta egy nemrégiben közzétett esszéjében.
Mit jelent a 2030-as előrejelzés
A 2030-as dátum a szerző saját előrejelzése, nem megállapított tény, és a bizonytalanság a cikk minden pontján jelen van. Patel szerint viszont ha az AI-kutatás automatizálása egy év alatt annyi előrelépést hoz, mint amennyit korábban sok év, a többi tudományterület sem maradhat távol. Az állítást nem erősítette meg független forrás: az METR-adatok és a két cég közleményei maradtak az egyetlen konkrét támpont.