Nyílt forráskódú memóriaréteggel bővíti az AI-ügynököket a Stash
Az új réteg megszünteti a kontextus újra és újra elmagyarázásának szükségességét, így az AI-modellek folyamatosan tanulhatnak és fejlődhetnek.
Nyílt forráskódú memóriaréteget mutatott be az Alash3al fejlesztő, amely lehetővé teszi, hogy bármely AI-ügynök emlékezzen a korábbi beszélgetésekre, akárcsak a Claude.ai és a ChatGPT — írja az alash3al.github.io/stash. (Hacker News)
A Stash nevű megoldás egy „második agyként” vagy „élettapasztalatként” funkcionál, az AI-ügynök és a külvilág közé ékelődve. Ez a réteg biztosítja, hogy a modellek folyamatosan működjenek, és ne felejtsék el a korábbi interakciókat. A fejlesztő szerint a Stash „nem helyettesíti a modellt, hanem folyamatossá teszi azt”.
A memória szövedéke
A Stash hierarchikus névterek segítségével szervezi a memóriát, ami lehetővé teszi az ügynökök számára, hogy elkülönítsék a különböző típusú tudást, például a felhasználói preferenciákat, projektek adatait vagy az önismeretet. Ez a modellfüggetlen infrastruktúra PostgreSQL és pgvector adatbázisokra épül.
Fontos különbséget tenni a Stash és a RAG (Retrieval Augmented Generation) között. Míg a RAG-ot „nagyon gyors könyvtárosként” írják le, amely dokumentumokat keres, addig a Stash valódi memóriát biztosít, amely tanul a beszélgetésekből, tényeket szintetizál, és idővel mélyebb megértést alakít ki a felhasználóról.
Tudásfonalak
A Stash telepítése egyszerű, mindössze három parancsot igényel Docker Compose segítségével, amely automatikusan beállítja a PostgreSQL-t, a pgvector-t és magát a Stash-t is. A Stash 2024. március 15-én elérhetővé vált a GitHubon.