Új kifejezést kapott a RAG-rendszerek kontextus-mérnöksége

A "context engineering" kifejezés a nagy nyelvi modellek (LLM) feladatok megoldásához szükséges teljes kontextus összeállítását jelenti. A gyakorlatot Tobi Lütke és Andrej Karpathy neve fémjelzi, akik 2025-ben vezették be a fogalmat, és amely azóta iparági standarddá vált. A single-document RAG folyamat négy fő részből áll: dokumentum-parsing, kérdés-parsing, retrieval és generation, amelyek mindegyike típusos adatot szolgáltat a modell számára. Ez az új megnevezés nem változtat az architektúrán, de pontosítja a kommunikációt az auditorok és a fejlesztők között, valamint rávilágít a production rendszerek 2025-ös konvergenciájára – írja az Enterprise Document Intelligence blog. (Towards Data Science)

A "context engineering" nem csupán az utasítások szövegezésére korlátozódik, hanem magában foglalja a modell kontextusablakába kerülő összes információt. Ide tartozik a rendszer-prompt, a lekérdezett dokumentumok, a beszélgetési előzmények, a tool-definíciók és kimeneteik, valamint a strukturált metaadatok. A korábbi "prompt engineering" szűkebb értelmezésével szemben ez a megközelítés a teljes kontextus összeállítását és stabilitását helyezi előtérbe, ami szoftverarchitektúrához hasonló, típusos objektumokkal és komponensek közötti szerződésekkel dolgozik.

Kapcsolódó: RAG-rendszer dokumentumprofil-optimizáció

A kontextus-mérnökség négy pillére

A single-document RAG folyamat négy fő építőköve (brick) mindegyike típusos adatot bocsát ki. A dokumentum-parsing (document parsing) relációs táblákat és egy összefoglaló szótárat hoz létre, amely tartalmazza a dokumentum típusát, az oldalszámot és a tipikus mezőket. A kérdés-parsing (question parsing) a dokumentum-summary-t használja fel, és egy típusos `ParsedQuestion` objektumot ad ki, amely kulcsszavakat, szándékot és az elvárt válaszformátumot (pl. szöveg, szám, lista) tartalmazza.

Kapcsolódó: kérdések feldolgozása a RAG-rendszerekben

A retrieval-komponens a lekérdezett dokumentumok szűrt DataFrame-jét és egy audit-szótárat bocsát ki. Az audit tartalmazza a használt lekérdezési módszert, az LLM-alapú érvelést és a kiválasztott szakaszokat. A generation-komponens nem kibocsátó, hanem fogyasztó: a lekérdezett kérdés, a szűrt dokumentumok és a rendszer-prompt alapján hívja meg az LLM-et, majd egy típusos Pydantic-választ ad vissza.

Kapcsolódó: strukturált válaszok OpenAI-tól

Az új kifejezés eredete és hatása

A "context engineering" kifejezést Tobi Lütke, a Shopify társalapítója 2025 júniusában tweetelte először, javasolva, hogy ez pontosabban írja le az LLM-ek számára biztosított kontextus művészetét, mint a "prompt engineering". Andrej Karpathy egy héttel később támogatta ezt az álláspontot. A kifejezés gyorsan elterjedt, megjelent egy O'Reilly könyv borítóján, és bekerült a LangChain taxonómiájába is. Bár a név új, a mögöttes gyakorlat már 2025-ben jelen volt a termelésben lévő rendszerekben.

Kapcsolódó: 10 gyakori RAG-hiba

A kontextus-mérnökség megnevezése segíti a vállalati AI csapatokat a hatékonyabb és auditálható RAG-megoldások fejlesztésében. A típusos objektumok használata és a komponensek közötti világos szerződések révén a rendszer architektúrája stabilabbá válik, ami kulcsfontosságú a komplex vállalati környezetekben. A LangChain taxonómiája és az O'Reilly könyv megjelenése is azt jelzi, hogy a kontextus-mérnökség lett az iparág de facto standardja a RAG-rendszerek tervezésében.

Kapcsolódó: AI-módszer dokumentumértelmezésben