Szuperszámítógép-mérnökökké válnak az AI-modellek, Lambert szerint

Nathan Lambert kiemeli, hogy az AI-ügynökök képesek lesznek optimalizálni a teljes inference folyamatot, így a számítási költségek a hardverek maximális kapacitásához közelítenek majd. Ez a hatékonyságnövekedés várhatóan 10-30%-os költségmegtakarítást eredményezhet az elkövetkező években. (Interconnects)

Pre-training automatizálása és a Jevons-paradoxon

Lambert előrejelzése szerint a pre-training kutatás (architektúra és adatválasztás) automatizálása 2-3 éven belül megvalósulhat. Ez a fejlődés a Jevons-paradoxonhoz hasonló hatást válthat ki: az AI-ügynökök iránti kereslet várhatóan tovább nő majd, ahogy az iparág egyre jobb módszereket talál az ügynökök orientálására és szállítására.

RL-környezetek minősége és tudományos felfedezések

A kutató szerint az AI-modellek képesek lesznek cross-sub-field eredményeket találni a tudományos irodalomban, ami új korszakot nyithat a tudományos felfedezésekben, például a rákgyógyításban. Ugyanakkor megjegyzi, hogy ez az eredmény az AI-modellek már meglévő, lassú fejlődési ívének gyorsulása is lehet.

Az RL-környezetek minőségének javítása is egy másik fontos terület. Számos cég már most is jelentős bevételt generál ebből a szektorból, de a jelenlegi RL-környezetek minősége sok kutató szerint alacsony. A problémák javítása lehetséges, és ez tovább növelheti az AI-modellek hatékonyságát. Lambert szerint a valódi áttörést hozó kutatási ötletek továbbra is emberi zsenialitást igényelnek.