OpsLLM: új keretrendszerrel oldják meg a szoftverüzemeltetés LLM-kihívásait
A keretrendszer a gyenge adatok, a széttagolt tudás és az elégtelen tanulás problémáira kínál megoldást, amelyek eddig gátolták a hatékony intelligens műveleteket.
Végponttól végpontig tartó keretrendszert fejlesztettek ki szoftverüzemeltetési feladatokra szánt nagyméretű nyelvi modellek (LLM-ek) építésére — derül ki az arXiv-on előnyomtatott formában megjelent tanulmányból. A OpsLLM névre keresztelt tartományspecifikus LLM a tudásalapú kérdés-válasz (QA) és a gyökérok-elemzés (RCA) funkciókat is támogatja a kutatók szerint. (ArXiv ML)
Az OpsLLM célja, hogy megoldja azokat a kihívásokat, amelyek miatt a meglévő kutatások nem értek el hatékony és eredményes végponttól végpontig tartó intelligens műveleteket. Ezek közé tartozik az alacsony minőségű adat, a széttagolt tudás és az elégtelen tanulás.
Adatgyűjtés és finomhangolás
A keretrendszer részletes munkafolyamatot ír le az LLM-ek szoftverüzemeltetési tartományban történő építésére. Első lépésként egy emberi beavatkozással (Human-in-the-Loop) támogatott mechanizmust vezetnek be. Ez a módszer nagyméretű nyers üzemeltetési adathalmazokból gyűjt és válogat ki magas minőségű adatokat, amelyekből aztán finomhangolási adathalmazt hoznak létre.
Ezt követően felügyelt finomhangolást végeznek az adatokon, hogy egy alapmodellt hozzanak létre. A megerősítő tanulási szakaszban bevezetnek egy tartományspecifikus jutalmazási modellt (DPRM), amelynek feladata a pontosság optimalizálása. Az OpsLLM kutatása az arXiv:2605.02906v1 azonosító alatt érhető el.