Helyi AI tudásbázist épít OpenKB, OpenRouter és Llama modellekkel az AIDeveloper44
A folyamat magában foglalja az API kulcsok biztonságos kezelését, a környezet beállítását, valamint a dokumentumok wiki-szerű struktúrában való tárolását.
Helyi, kereshető AI tudásbázist építhetnek a felhasználók az OpenKB, az OpenRouter és a Llama modellek kombinálásával — írja az AIDeveloper44. A módszerrel ingyenes, nyílt forráskódú Llama modellek használhatók az OpenRouter platformon keresztül. (MarkTechPost)
A bemutatott megoldás részletesen ismerteti az API kulcsok biztonságos lekérését a getpass segítségével, a környezet beállítását anélkül, hogy a titkos adatokat közvetlenül a kódban tárolnák, valamint egy strukturált, wiki-szerű tudásbázis inicializálását.
A munkafolyamat során forrásdokumentumok adhatók hozzá a rendszerhez, összefoglalók és fogalomoldalak generálhatók, és a létrejött wiki struktúra is ellenőrizhető. A felhasználók lekérdezéseket futtathatnak, elmenthetik a felfedezéseiket, sőt, a dokumentumok közötti hivatkozásokat programozottan is elemezhetik.
A nyers Markdown dokumentumokból így egy navigálható, szintetizált tudásrendszer hozható létre, amely interaktív lekérdezéseket és inkrementális frissítéseket egyaránt támogat. A projekt az Apache 2.0 licenc alatt érhető el, és Python 3.11, 3.12, valamint 3.13 verziókkal kompatibilis.