Nem lát szuperintelligencia-gyorsulást az Epoch AI kutatója

Denain, aki az Epoch AI belépési csapatát vezeti, úgy véli, hogy a közzétett mérések nem elegendőek ahhoz, hogy az AI fejlődésének küszöbön álló, önfenntartó gyorsulására vagy az AI-kutatói munka teljes automatizálására következtessünk. (Interconnects)

A leginkább figyelemre méltó adat az OpenAI blogbejegyzésében a Codex-használat növekedése volt a kutatók körében, ami havi 2x-es növekedést mutatott. Ez arra utalhat, hogy a kutatók értéket nyernek az AI-rendszerekből a modelltelepítés során. Ugyanakkor Denain szerint nem egyértelmű, hogy ez a növekedés mérési hibából adódik-e, vagy valódi trendet tükröz, és nem erős bizonyíték arra, hogy hat hónapon belül szoftver-intelligencia-roham következik be.

Denain kiemelte, hogy bizonytalan, mennyi belső információval rendelkeznek az AI-laborok a nyilvánosan elérhető adatokhoz képest. Felmerült, hogy a laborok belső frissítéseiben sokan ijesztőbbnek tűnnek, mint amit a nyilvános információk sugallnak. Azonban Denain szerint a rendelkezésre álló bizonyítékok elegendőek ahhoz, hogy foglalkozzunk az AI-képességek gyorsulásának dinamikájával, és ez egy fontos, követendő jelenség.

A robotika szerepe az AI-gyorsulásban

A podcastban szó esett a robotika szerepéről az AI-gyorsulásban, valamint arról, hogy mennyire maradnak el a kínai modellek a legfejlettebb modellektől. Denain szerint az US-Kínai AI-képességek közötti szakadékot valószínűleg a „destilláció” magyarázza, amely során egy kisebb modell tanul egy nagyobb modell tudásából.

A kínai laborok prioritásai

A kínai álláshirdetések betekintést nyújtanak a kínai AI-laborok prioritásaiba és fókuszterületeibe. Denain szerint ezek az információk segíthetnek megérteni a kínai AI-fejlesztés irányát és sebességét.

A nyílt és a zárt modellek biztonsági összehasonlítása továbbra is nyitott kérdés. Denain szerint az Epoch AI belső működése és betekintést generáló folyamatai is leírták, mi szükséges a modellek képességeinek további bővítéséhez.