ÉlőUtoljára: 3 perceMa: 21
Kutatásfrissítve: 11:16

Az AI-agentek memóriájában a felejtés a kulcs, nem a tárolás

A Claude a Pokémon-teszten négy jelvényt szerzett, miközben a korábbi Sonnet 3.7 csak egyet — a különbség abban volt, hogy az új modell csak a stratégiákat és ellenőrzött szabályokat jegyezte fel.

Az AI-agentek memóriájában a felejtés a kulcs, nem a tárolás
Fotó: Branden Skeli / Unsplash
forrás: The Decoder·AI Forradalom szerk.·
Megosztás

Az Anthropic szerint az AI-agentek memóriájában nem az a fontos, mennyit tárolnak, hanem az, mit felejtenek el. Egy kutatási bejegyzésben a cég azt írja le, hogyan őrizheti meg a Claude a tudását munkamenetek között úgy, hogy a modell maga nem változik. A Claude jegyzeteket ír egy mappába, amelyeket később újra be tud olvasni — a nehézség a kiválasztásban rejlik, mert az agentnek még a következő lépés ismerete nélkül kell eldöntenie, mi lehet később fontos. (The Decoder)

Miért terhes a teljes naplózás

A Pokémon Red-tesztben a régebbi Claude Sonnet 3.7 mindent lényegesnek tartott: nagyjából 10 000 játéklépés alatt 413 fájlt hozott létre 225 mappában, gyakran külön fájlt egy-egy csatához és tárgyhoz. Mivel a játékállapot folyamatosan változik, az archívum gyorsan elavult, a modell időnként csak a jegyzeteit rendezte, és végül egyetlen jelvényt szerzett.

Az újabb Claude Fable 5 néhány fájlra korlátozta a memóriáját, és négy jelvényt szerzett. Nem jegyezte fel azt, ami már a képernyőn látszott, hanem a terveit, stratégiáit és a kipróbált szabályait. Az Anthropic összehasonlítása azonban csak egy-egy végigjátszáson alapul modellenként, ezért az eredmény óvatosan kezelendő.

Szabályok a modell erőssége szerint

Az Anthropic szerint a modellnek érdemes elmagyarázni, mire szolgál a memória, és hagyni, hogy maga döntse el a használatát. Egy teljesítményteszten a merev utasítások, mint például a „csak a hibákat jegyezd fel”, a régebbi modellek esetében hasznosak voltak, az erősebbeket viszont rontották. Ezzel szemben a régebbi modellek profitáltak a világos utasításokból, például abból, hogy minden válasz előtt olvassák el a jegyzeteiket.

A Dreaming és a hamis emlékek

A nagyobb kockázatot a hibás jegyzetek jelentik, amelyekben az agent később vakon megbízik. Az Anthropic ezt a Dreaming nevű eljárással kezeli, amely a Letta és az UC Berkeley kutatására épül. Az emberi agyhoz hasonlóan a Claude szüneteiben átnézi a korábbi munkamenetek átiratait, és ellenőrzi velük a jegyzeteit.

A Pokémon-tesztben a modell tévesen rögzítette, melyik oldalán van egy tereptárgy egy hegynek. A hibás jegyzetre támaszkodva háromszor is ugyanabba a csapdába esett, majdnem feladta, és nem érte el a célját. Egy Dreaming-futás után a modell az átirat alapján felismerte a hibát, és a helyes útvonalat találta meg; a Mt. Moonon át csak a javított jegyzettel jutott el Cerulean Citybe.

Az Anthropic szerint a Dreaming nagyobb tudásbázisok rendezésére is alkalmas. A Claude egy belső dokumentumgyűjteményből — mintegy 350 000 dokumentumból, amelyek a Stainless szoftvercégtől származnak, és amelyet az Anthropic megvásárolt — épített összekapcsolt wikit. A legjobb eredményt akkor érte el, amikor a wikit kereséssel kombinálta, vagyis a wiki kiegészítette, nem helyettesítette a keresést. Egy külön, jogi tesztben a wikivel 87 százalékot ért el, míg csak kereséssel 73 százalékot.

Nyitott kérdések

Az Anthropic elismeri, hogy számos kérdés még nyitott. A feladat közbeni jegyzetelés elvonja az agentet a munkájától, a Dreaming többletszámítást igényel, eredményei pedig csak késéssel érkeznek. A wikiket és a jegyzeteket rendszeresen karban kell tartani, különben a hibák és a hallucinációk felhalmozódnak. A cég arra is figyelmeztet, hogy ne töltsék be automatikusan túl sok emléket minden munkamenetbe, mert ez felemészti a kontextust, és a rossz jegyzeteket továbbviszi.

A Dreaming kutatási előzetesként jelent meg a Claude Managed Agents platformon. A szolgáltatás egy meglévő memóriaraktárt és legfeljebb 100 korábbi munkamenetet olvas be, eltávolítja az ismétlődő és elavult bejegyzéseket, és új, rendezett raktárat hoz létre, az eredeti érintetlen marad. Indulásakor csak a Claude Opus 4.7 és a Sonnet 4.6 modellt támogatta.

Az OpenAI is „Dreaming” néven emlegeti a ChatGPT memóriájának átalakítását, amely a háttérben vezet felhasználói profilt; a cég szerint ezzel az időbeli pontosság 52,2-ról 75,1 százalékra nőtt. A Google és a Google DeepMind kutatói szintén kísérleteznek az álmodó agentekkel, de ők a keresési stratégia javítására használják, és a Google WikiSkill nevű wikije az Anthropic rendszeréhez hasonlóan különválasztja a nyers átiratokat, a tömörített tudást és a konkrét utasításokat.

Forrás

Feldolgozott sajtóforrás·The Decoder

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom