Az AlphaGo érvelése nem volt intuíció, a mai AI-k erre még képtelenek
A modern AI-k nem gondolkodnak, csak jóslatokat tesznek, ellentétben az AlphaGo-val, amelynek érvelési képességei voltak – állítja a DeepMind egykori kutatója.
Az AlphaGo 2016 márciusában, Lee Sedol ellen aratott 4-1 arányú győzelme, különösen a 37. lépés, sokak szerint a gépi intuíció csodája volt, ám a DeepMind egykori kutatója szerint ez valójában a program keresési mechanizmusának eredménye volt. (MIT Technology Review AI)
Az AlphaGo érvelése
A kutató szerint az AlphaGo két rendszerből állt: egy „policy network”-ből, amely a lehetséges emberi lépéseket becsülte meg, és egy kereső mechanizmusból, amely a jövőbeli következményeket mérlegelte. Ez utóbbi tette lehetővé a kreatív lépéseket, ellentétben a mai LLM-ekkel, amelyek csak a következő tokent jósolják meg. Daniel Kahneman System 1 és System 2 gondolkodásmódjának analógiájára, az AlphaGo rendszerei a gyors, „gut-level” becsléseket (policy network) és a lassú, megfontolt elemzést (search machinery) kombinálták.
A mai LLM-ek korlátai
A mai LLM-ek, mint a ChatGPT, a token-előrejelzésen alapulnak, ami a System 1-hez hasonlítható. A „chain-of-thought” módszer, bár javítja a matematikai és kódolási feladatokat, nem hoz létre különálló érvelési mechanizmust, csupán a token-előrejelzés hosszabb iterációja. A kutató szerint három fő probléma akadályozza a mai modelleket abban, hogy valódi érvelést végezzenek: nincs explicit, megfigyelhető epistemic state-jük, a tudás és az érvelés összefonódik a neurális hálózatban, és gyakran utólag gyártják az érvelési láncaikat.
Szükség van a valódi érvelésre
A tudományos és orvosi területeken, ahol a megbízhatóság és az átláthatóság kulcsfontosságú, elengedhetetlen a valódi érvelési képesség. A kutató, aki nemrég távozott a Google DeepMind-tól, egy új megközelítést szorgalmaz, amely az AlphaGo architektúráján alapul. Ez magában foglalna egy epistemic state-et, amely nyomon követi a bizonytalanságot, a lehetséges következményeket és a nyitott kérdéseket, lehetővé téve a tudás folyamatos frissítését és a megbízható következtetések levonását.
A kutató szerint a System 1 (intuíció) méretének növelése önmagában nem elegendő a megbízható gépi intelligencia eléréséhez. Az AlphaGo által demonstrált, keresésen alapuló érvelés jelenti a kulcsot a valódi, ellenőrizhető és megbízható AI-alkalmazásokhoz.