A hosszú, nem fikciós szövegírásban az AI-modellek fejlődése megállt, állítja Nathan Lambert

Az AI-modellek fejlődése megállt a hosszú, nem fikciós szövegek írásában, annak ellenére, hogy más területeken, mint a kódolás és a matematika, jelentős előrelépést értek el. Nathan Lambert, aki nemrég fejezte be saját AI-tankönyvét, „Reinforcement Learning from Human Feedback” címmel, úgy véli, ez az akadály gátolja az AI-t abban, hogy önállóan oldjon meg komplex tudományos problémákat. (Interconnects)

Lambert maga is igénybe vette az AI segítségét tankönyve írása során, különösen a LaTeX formázás, a szövegszerkesztés és a diagramok (például TikZ és Python nyelven) elkészítésében. Azonban úgy tapasztalta, hogy a régebbi modellek, mint az OpenAI GPT-4.5 és a Moonshot Kimi K2, még mindig jobbak az írásképesség terén, mint az újabbak, amelyek inkább a kódolásban és matematikában jeleskednek.

A tudásfelhalmozás hiánya

Lambert szerint a modellek jelenleg nem képesek megbízhatóan felhalmozni és rendszerezni a tudást, ami az új felismerésekhez elengedhetetlen. Ez azt jelenti, hogy az AI által vezérelt tudományos haladás inkább a „könnyen elérhető gyümölcsök” leszedésére korlátozódik, semmint forradalmi áttörésekre. A szakértő kiemeli, hogy a modellek továbbra is emberi útmutatásra szorulnak a tudományos anyagok megszervezésében és bemutatásában.

Lambert szerint a modellek nem csak hogy nem fejlődnek ezen a téren, de bizonyos értelemben visszafelé haladnak a céljaikhoz képest, hogy inspiráló írásokat hozzanak létre. A jelenlegi AI-modellek növelik az entrópiát a hosszú, nem fikciós szövegekben, és nem képesek megbízhatóan egymásra építeni a tudást az új felismerések érdekében. A szerző kiemeli, hogy bár a modellek egyre jobbak lesznek a kisebb hibák, például a gépelési hibák javításában, ez nem jelenti azt, hogy az általános szövegalkotási képességük is átalakulna.

Irástudás és „irreducibilis hibakompozíció”

A modellek rendkívül hasznosak lehetnek a kisebb egységek, például mondatok vagy egyenletek ellenőrzésében és létrehozásában, de nehezen tudják ezeket koherens egésszé összefűzni. Ez a probléma, amelyet a szerző „irreducibilis hibakompozíciónak" nevez, hasonló ahhoz, amit korábban a matematika és a kódolás terén tapasztaltak, de ott az RLHF (Reinforcement Learning from Human Feedback) megoldotta. Lambert szerint az AI-modellek továbbra is emberi útmutatásra szorulnak az összetett tudományos anyagok prezentálásában.

A szerző bevallotta, hogy tankönyvének kevesebb mint 1%-a származik AI-generálta mondatokból, amelyeket azért tartott meg, mert tökéletesen illeszkedtek a kontextusba. Különösen a szerkesztési folyamat során bizonyult értékesnek az AI, segítve a szerkesztői megjegyzések kezelésében és a szöveg javításában. Azonban a tudományos áttörésekhez elengedhetetlen mélyebb megértés és kreatív gondolkodás továbbra is az emberi szakértelmet igényli, és az AI jelenlegi képességei nem elegendőek ehhez.