Ex-DeepMind kutató új laboratóriuma az LLM-ek megbízhatatlanságára fókuszál

Thore Graepel, aki segített felépíteni a Google DeepMind AlphaGo-ját, Metis Reasoning néven indított céget Londonban. A cég alapvető állítása, hogy a nagy nyelvi modellek (LLM) nem megbízhatóak a logikai következtetésben. Alapítói az AlphaGo tanulságait szeretnék alkalmazni az általános érvelés területén. (TNW)

A cég a „The Age of Reasoning” című fehér könyvében fektette le téziseit. Graepel nyáron hagyta el a Google DeepMindot — közölte a Tech.eu. Társalapítói Piers Ingram technológiai és biotechnológiai vállalkozó, aki több mint 350 millió dollárt szerzett, valamint Michael Warren, a Boeing korábbi robotikai szakértője. Negyedik társuk David Berman, a Cambridge Consultants AI-főnöke, aki a brit kormányt és a NATO-t is tanácsolja az AI területén. A Tech.eu szerint a csapat 12 főből áll.

A fehér könyv három problémát sorol fel az LLM-ekkel kapcsolatban: a modellek hallucinálnak, és senki sem tudja auditálni az érvelésüket. A felhasználók nem tudják megvizsgálni egy válasz mögött rejlő tudást sem, mert az a modell súlyain belül rejtőzik. „Jelentős problémák halmaza létezik, amelyeket semmilyen méretezés nem tud megoldani” — állítja a fehér könyv.

Érvelésük szerint a modell lépésről lépésre haladó „lánc-gondolata” gyakran nem tükrözi, hogyan jutott el a válaszig. Ingram szerint a helyzet üzleti szempontból még rosszabb: „Amikor mérnöki vagy tudományos, esetleg orvosi vagy jogi érvelésről van szó, az érvek, amelyeket a modellek felhoznak, alapvetően nem megbízhatóak” — mondta a Tech.eu-nak.

A Metis egy külön ítélőrendszert képzel el, amely csak akkor fogad el új állítást, ha a bizonyítékok alátámasztják. A rendszer minden következő lépést aszerint választana ki, hogy mennyire csökkenti a bizonytalanságot. Ezt a filozófus Jaakko Hintikka érvelésről alkotott elképzelése ihlette, amely szerint az érvelés egy játék az érdeklődő és a természet között.

Az AlphaZero önmagával játszott játékához hasonlóan a rendszer a saját feljegyzett vizsgálataiból tanulna jobb stratégiákat. A Metis szerint ez kevesebb hallucinációt és mindenki által ellenőrizhető érvelést eredményezne. A felhasználók az újratanítás nélkül is frissíthetnék vagy eltávolíthatnák a tudást. Kisebb modellek is képesek lennének sok lépést kezelni, ami csökkentheti a költségeket, és lehetővé tenné az érvelést eszközökön és robotokon.

Ingram szerint a tervezés „sokkal-sokkal számítási hatékonyabb”, mint a jelenlegi csúcskategóriás modellek. „Nem követjük azt az irányt, hogy egyre nagyobb modelleket és egyre nagyobb betanítási költségvetéseket használjunk” — mondta. A fehér könyv egy megközelítést ír le, nem terméket, és nem közöl teszteredményeket.

Ingram szerint a Metis „bátorító” eredményeket ért el a frontvonalbeli következtetési feladatokban, a költségek töredékéért, konkrét számok említése nélkül. A cég nem közölte, mikor dobja piacra első modelljét. Ingram nem kívánta kommentálni azokat a jelentéseket, amelyek szerint a Metis több tízmillió dollárt gyűjt. Annyit elárult, hogy a cég „eddig több mint elegendő” tőkét szerzett.

A Metis csatlakozik a londoni AI-laborok egy csoportjához, amelyeket a DeepMind korábbi kutatói és más nagy nevek vezetnek, mint például az Ineffable Intelligence, amelyet Graepel egykori AlphaGo kollégája, David Silver alapított, valamint Richard Socher Recursive Superintelligence-e. Ingram szerint a Metis megközelítése „igazán egy nagyon más, szinte filozófiai megközelítés”.