Több mint 65%-ot tudnak helyreállítani a nagy AI-modellek a gondolkodási idővel

A nagy nyelvi modellek (LLM) gyakran generálnak téves válaszokat, amit általában hiányzó tudásként diagnosztizálnak. A Google Research és a Technion kutatói azonban kimutatták, hogy az információ gyakran kódolva van a modellben, csak nem tudják előhívni. Új tanulmányuk szerint a GPT-5 és a Gemini-3 modellek az adatokat 95-98%-ban tárolják, de ebből csak 65%-ot tudnak visszahívni, ha több időt kapnak a „gondolkodásra”.

A kódolás és a visszahívás különbsége

A kutatók új megközelítést javasolnak a modellek tudásának mérésére. Ahelyett, hogy pusztán a kérdésre adott válasz pontosságát vizsgálnák, tény-szintű profilalkotást végeznek. Ez teszteli, hogy egy adott információ tárolva van-e a modellben, hogyan kérdezhető le különböző irányokból, és mennyi számítási erőfeszítés szükséges a visszahívásához. Ez a módszer megkülönbözteti, hogy a tény „kódolva” van-e, vagy „ismert”.

A modell akkor kódol egy tényt, ha azt eredeti kontextusban pontosan reprodukálja. Akkor ismeri a tényt, ha változatos megfogalmazásokban megbízhatóan válaszol kérdésekre. „A kódolási és visszahívási hibák azonosíthatatlanok a pontossági metrikák alatt, mégis eltérő korlátokat és megoldásokat jelentenek” — írják a kutatók. „A kódolási hibák további betanítást igényelnek, mint a modellméret vagy az adatlefedettség növelése. A visszahívási hibák pedig utólagos beavatkozásokat javasolnak, amelyek gyakran javítják, hogyan használják a modellek azt, amit már kódoltak.”

A gondolkodási idő hatása

A kutatás szerint a „gondolkodási idő” kulcsfontosságú. A modelleknek extra számítási erőfeszítést adva sikeresen visszanyerhető a kódolt tények 40-65%-a, amelyeket korábban nem tudtak közvetlenül előhívni. Ezt az emberi „nyelvhegyen van” állapothoz hasonlítják, ahol a tudatos erőfeszítés segít az információ felidézésében. A modellméret növelése nem oldja meg automatikusan ezt a problémát; gyakran tévesen próbálják a visszahívási hibákat finomhangolással orvosolni, ami költséges.

Például a Gemma3 modell 1 milliárdról 27 milliárd paraméteresre skálázása csökkentette a kódolási hibákat 85%-ról 23%-ra, de a visszahívási hibák aránya 40%-ra nőtt. Ez arra utal, hogy a skálázás inkább a tárolási problémát oldja meg, mint a hozzáférési problémát. Ahogy a modell rengeteg tényt memorizál, egyre több tudás reked „kódolt, de hozzáférhetetlen” állapotban. A hibák többsége az adathiányról a sikertelen visszahívásra tolódik át.

A kutatók 13 LLM-et értékeltek több mint 4 millió válaszon keresztül. Azt találták, hogy a ritka tények kódolási aránya hasonló a népszerűekéhez, de a visszahívási rés több mint 25%-kal meghaladja a frontier modellek esetében. A fordított kérdésekre adott válaszok is problémát jelentenek: a modell könnyen megmondja, hol játszott az Oasis első koncertet, de nem tudja megmondani, ki játszott ott először. Ezeket a jelenségeket a kutatók inkább visszahívási hibaként értelmezik, nem pedig „hiányzó tudásként”.

A kutatás eredményeit a Google Research és a Technion kutatói publikálták, a VentureBeat 2026. szeptember 1-jén számolt be róla.