Kulcsfontosságú a felhasználói kérdések feldolgozása a RAG-rendszerekben - állítja Angela Shi

A felhasználói kérdések megértése és feldolgozása kulcsfontosságú a RAG (Retrieval-Augmented Generation) rendszerek hatékony működéséhez. Angela Shi, az Enterprise Document Intelligence írása szerint a kérdések feldolgozása hasonlóan fontos, mint a dokumentumoké, és ez a folyamat kettéválik lekérdezési és generálási briefekre, mielőtt a rendszer futtatná őket. (Towards Data Science)

A kérdésfeldolgozás három szintje

Az üzleti projektekben három szinten jelenik meg a kérdések feldolgozása. Először a felhasználók természetes nyelven tesznek fel kérdéseket, például: „Mi a felelősségkorlát plafonja?” vagy „Mesélj a kizárásokról?”. A rendszernek ezeket a nem általa írt, eltérő szókincsű kérdéseket kell értelmeznie. Másodszor, a fejlesztők sablonokat írnak előre, felismerve az ismétlődő kérdéseket, mint például az ügyfél, biztosító, éves díj, garanciák, kizárások vagy megújulás dátuma. Harmadszor, a rendszer segíthet a felhasználóknak megfogalmazni a kérdéseiket, pontosítva, hogy mire gondolnak, például a felelősség, kártalanítás, önrész vagy díj tekintetében.

Kapcsolódó: dokumentummegértés fejlesztése

A lekérdezési és generálási briefek fontossága

Egy felhasználó által beírt összetett kérdés, mint például „Mi a maximális fedezeti összeg? Ne keverd össze az önrésszel, gyakran együtt szerepelnek.”, sok információt tartalmaz. Ha az egész stringet közvetlenül a lekérdezésnek adjuk át, az embeddingek félrevezetőek lehetnek, a formátumra utaló jel nem jut el a generáláshoz, és a félreértések elkerülése is nehézkessé válik. A hiba elkerülése érdekében a kérdést először fel kell dolgozni: a zajos felhasználói stringet egy típusosított, strukturált briefé kell alakítani. Ezt a briefet ketté kell bontani: a lekérdezési téglat (retrieval brick) a témára, átírásokra és hatókörre vonatkozó információkat kapja, míg a generálási téglat (generation brick) az eredeti megfogalmazást, a formátumkötöttséget és a félreértések elkerülésére szolgáló jelzéseket kapja.

Kapcsolódó: precíz kérdés-válasz rendszer

A kérdésfeldolgozás tükrözi a dokumentumfeldolgozást

A dokumentumok feldolgozása során strukturált, relációs adatbázist hoznak létre, amely sorokat tartalmaz a szöveges sorokról, oldalankénti információkról és tartalomjegyzék-bejegyzésekről. A kérdésfeldolgozás célja is hasonló: az unstructured inputot strukturált formává alakítani a következő lépések előtt. Míg egy dokumentum több ezer sort eredményezhet a `line_df` táblában, egy kérdés csak egyetlen sort tölt ki a `question_df` táblában. A parser által kiszámított oszlopok közé tartozik a helyesírás-ellenőrzött szöveg, a kinyert kulcsszavak, a várt válasz típusa, az említett oldalak vagy szakaszok, a felbontási minta és a diszpécser által aktiválandó jelzések. A kérdés sorai más, speciális táblákhoz kapcsolódnak, mint például a projekt szakértői kulcsszótára, amely fogalmakat és azok szinonimáit tartalmazza. A kérdésfeldolgozás tehát az Enterprise Document Intelligence rendszerében a lekérdezési és generálási folyamatok alapját képezi, biztosítva a pontosabb és relevánsabb válaszokat az Angela Shi által javasolt RAG-rendszerekben.

Kapcsolódó: AI a nepáli jogban