Négy mechanizmus segít az AI-ügynököknek megbirkózni a hosszú feladatokkal

Az AI-ügynökök, amelyek eszközöket hívnak egy ciklusban, rövid feladatok esetén jól működnek, de hosszabb, több mint 200 eszközhívást igénylő munkák során hajlamosak elveszíteni a fókuszt és hibázni. Az AWS Samples design guide szerint ezt a problémát nem maga a modell, hanem a „harness” nevű réteg orvosolja, amely az AWS leírása szerint mindent kezel a modellen kívül. Ez a réteg négy mechanizmuson keresztül – kontextus-budgetálás, tömörítés, memória-stratégia és todo-state – alakítja át a sekély ciklusokat mély ügynökökké. (MarkTechPost)

A nagyobb kontextusablakok bevezetése nem jelent teljes megoldást. A Chroma Context Rot jelentése szerint a GPT-4.1, Claude 4, Gemini 2.5 és Qwen3 modellek teljesítménye egyre megbízhatatlanabbá válik az input hosszának növekedésével. Az Anthropic magyarázata szerint ez azzal magyarázható, hogy a tokenek számának növekedése exponenciálisan növeli az „attention budget” kimerülését. Manus szerint egy tipikus feladat 50 eszközhívást igényel, és az input-output token arány 100:1 körül mozog, ami a kontextus eltolódásához és a cél elvesztéséhez vezethet.

Kontextus-budgetálás és offloading

A harness elsődleges feladata, hogy eldöntse, mi ne kerüljön be a kontextusablakba. A Deep Agents két szabályt alkalmaz: ha egy eszköz válasza meghaladja a 20 000 tokent, fájlrendszerbe íródik, és egy fájlútvonal helyettesíti, előnézettel az első 10 sorról. Ha a munkamenet kontextusa eléri a modellablak 85%-át, a régebbi írási és szerkesztési hívások, amelyek teljes fájltartalma már lemezen él, mutatóra csonkítódnak.

A Claude Code hasonlóan limitálja az auto-memóriát az első 200 sorra vagy 25 KB-ra, és csak igény szerint tölti be a teljes eszközsémákat. Az AWS AgentCore egy koordinátort használ, amely párhuzamosan indít három böngésző-alügynököt, saját MicroVM-ben, és egy elemző-alügynök csak a strukturált eredményeket kapja meg. Az AWS becslése szerint ez 4-6 perces futási időt eredményez, szemben a szekvenciális feldolgozás háromszorosával.

Tömörítés és todo-state

Amikor az offloading már nem elegendő, a harness összefoglalja a kontextust. A tömörítés során a kontextusablak határát súroló beszélgetést összefoglalják, és az új kontextust az összefoglalóval indítják újra.

A Claude Code tömörítési promptja megőrzi az építészeti döntéseket és a hibákat, míg a Deep Agents egy strukturált dokumentumot használ, dedikált mezőkkel a munkamenet céljára, az elkészült artefaktumokra és a következő lépésekre. Az OpenAI Responses API szerveroldali tömörítést kínál, míg a Claude Developer Platform a `compact_20260112` kontextuskezelési szerkesztést teszi lehetővé egy `pause_after_compaction` opcióval.

A todo-state a tömörítésen túl minden lépésben védi a célt. A Manus ügynöke egy `todo.md` fájlt ír át lépésről lépésre, kipipálva az elemeket, így az objektívák a kontextus végére kerülnek, segítve a modell figyelmét. Bár a LangChain a TodoListMiddleware-t opcionálissá tette, hosszú, több lépéses feladatokhoz továbbra is ajánlja. A Claude Code egy todo listát tart fenn, és a tömörítés után a lemezről tölti be a tervet. Az Anthropic útmutatója ezt strukturált jegyzetelésnek nevezi, ahol az ügynök egy `NOTES.md` vagy `TODO` fájlt vezet a kontextusablakon kívül, és azt tölti be újra.

A cél létezése nem csupán üzenet a történetben, hanem megváltoztatható artefaktum. Az üzenetek elöregednek és összefoglalódnak, míg egy fájl, amelyet újra és újra átírnak, a teljes történetet megőrzi. Az AWS AgentCore például a `read_file` funkciót használja, hogy a már összefoglalott tényeket később újra elérhetővé tegye.