AI nem okosabb a matematikusoknál, csak jobban emlékszik — szerintük

Az AI nem feltétlenül intelligensebb a matematikusoknál, sokkal inkább jobban emlékszik. A kulcsfontosságú előny nem a fejlettebb érvelésben rejlik, hanem a szinte korlátlan szimbólum-memóriában, ami az emberi agy korlátait áthidalja — állítja Davide Piffer a davidepiffer.com-on publikált elemzésében. (Hacker News)

A kutató szerint az AI-modellek hatalmas külső szimbólum-munkaterülettel rendelkeznek, amely az emberi munkamemória funkcióit látja el. Míg egy emberi matematikus csak kevés ismeretlen elemet tud egyszerre kezelni, egy AI modell képes megtartani a teljes feladatleírást, több száz köztes egyenletet, elvetett megközelítéseket, definíciókat és korábbi következtetéseket a kontextusablakában. Ezt a teljesítményt gyakran a jobb érvelés bizonyítékaként értelmezzük, de valójában ez lehet az egyik legfontosabb biológiai korlátunk, a szűkös munkamemória eltávolítása.

A matematika memóriakorlátja

A munkamemória az a mentális rendszer, amely lehetővé teszi az információ rövid távú tárolását és manipulálását. Egyenletek megoldásakor emlékezni kell a változók jelentésére, a végrehajtott műveletekre és a jelenlegi célra. Bizonyítások során pedig nyomon kell követni az alapfeltevéseket, a köztes tételeket, a kivételeket és a lehetséges eseteket. Az emberi munkamemória rendkívül korlátozott.

Bár a pontos kapacitás feladattól és az információ szervezettségétől függ, a korlát nyilvánvaló a mindennapi tapasztalatokból is. Próbáljunk meg két háromjegyű számot fejben összeszorozni. Az alapműveletek egyszerűek, de a nehézség a részeredmények megőrzésében rejlik. A leírás, a papír nem tesz okosabbá, de bővíti a hatékony munkamemóriát. Ugyanez érvényes a matematika magasabb szintjein is: a matematikusok jelöléseket, vázlatokat és korábbi tételeket használnak, hogy a gondolatmenet kognitívan lehetővé váljon.

A chunking nem szünteti meg a korlátot

A szakértők „chunking” technikával kompenzálnak: a kezdő egy hosszú szimbólussort lát, míg a szakértő egy ismerős szerkezetet ismer fel, és azt egyetlen fogalmi egységként kezeli. Ez lehetővé teszi, hogy több információ férjen bele ugyanabba a biológiai munkamemóriába. A chunking azonban nem szünteti meg a korlátot, csak tömöríti az információt. Egy AI modell ezzel szemben egészen más korlátokkal néz szembe.

A munkamemória előrejelzi a matematikai teljesítményt

A munkamemória fontossága a matematikában nem csupán elméleti. A különbségek jól láthatóak az emberek között. A munkamemória erősen összefügg az általános intelligenciával. Több tanulmány is arra utal, hogy ez az IQ-n túl is hozzájárul a matematikai teljesítményhez.

Például Alloway és Passolunghi (2011) gyerekkori vizsgálataikban kimutatták, hogy a munkamemória önállóan is hozzájárult a matematikai teljesítményhez. Egy hatéves longitudinális tanulmány (Alloway és Alloway, 2010) pedig azt találta, hogy a korai munkamemória teljesítménye még az IQ figyelembevételével is előre jelezte a későbbi írás-olvasási és számtani készségeket.

Blankenship és kollégái (2015) hasonlóképpen jelentős, az IQ-tól független magyarázó erőt találtak a munkamemória esetében a matematikai folyékonyság és számítások terén. Bár a munkamemória és az intelligencia jelentősen átfedik egymást, a kutatások azt mutatják, hogy hasonló intelligenciaszintű gyerekek között is a munkamemória különbségei előre jelezték a matematikai teljesítménybeli eltéréseket.

Ez kulcsfontosságú következtetés az AI megértéséhez is: ha az emberi matematikai teljesítményt a munkamemória korlátozza, akkor egy óriási szimbólum-munkaterülettel rendelkező gép más kategóriába tartozik. Az AI matematikai intelligenciája részben abból fakadhat, hogy kevésbé korlátozott egy olyan kognitív akadály által, amely elnyomja az emberi teljesítményt.

A kontextusablak egy gigantikus jegyzetfüzet

A modern nyelvi modellek hatalmas mennyiségű tokent képesek feldolgozni egyszerre. Ez a sorozat magában foglalhatja az eredeti kérdést, definíciókat, példákat, köztes számításokat és a modell saját korábbi érvelését. A kontextusablak nem azonos az emberi munkamemóriával; inkább egy gigantikus külső jegyzetfüzetként fogható fel, amelyet egy nem tökéletes kereső- és használati rendszer egészít ki.

Az emberi aktív belső memóriával ellentétben, ahol a számok csendben manipulálhatók, a standard nyelvi modellek gyengébbek a magán, folyamatosan frissülő mentális állapot fenntartásában. Stabil memóriájuk általában a már generált tokenek sorozata.

Ha a modell leírja, hogy x=6, majd később x+3=9, ezek az állítások a kontextusban maradnak, és a modell újra felhasználhatja őket. Az érvelés így gyakran külsővé válik: a szöveg nem csupán egy gondolatfolyamat jelentése, hanem maga a mechanizmus része. A különbség a skálában rejlik: míg egy ember nehezen tud öt ismeretlen feltételt aktívan tartani, egy AI tucatokat vagy százakat is megőrizhet explicit formában. Ez nem jelenti azt, hogy minden elem tökéletesen előkerül; a modellek elnézhetnek releváns információkat. A meghirdetett kontextushossz nem egyenlő a tökéletes visszakereséssel.