Helyi AI-modellek biztonságát erősíti az Unsloth Studio új ellenőrzőrendszere

A helyi AI-munkafolyamatok gyakran támaszkodnak külső modellplatformokra és kódfüggőségekre, ami egyedi biztonsági kihívásokat teremt az ellenőrizetlen nyílt forráskódú fájlok futtatásakor. Az Unsloth Studio asztali modellkezelő platformok integrálják a repozitóriumi integrációt automatizált, több ellenőrzőpontos szkenneléssel, hogy megvédjék a futtatókörnyezeteket. (MarkTechPost)

A Hugging Face-repó esetének részletei

Egy nemrégiben történt eset rávilágított a kockázatokra: egy Hugging Face repozitóriumban elrejtett infostealer. A repó az OpenAI „Privacy Filter” kiadását utánozta, és szinte szóról szóra lemásolta a modellkártyáját. A loader.py infostealert futtatott Windows rendszereken. A repozitó ezután a legnépszerűbb lett, és mintegy 244 000 letöltést mutatott, bár a HiddenLayer szerint ezek a számok szinte biztosan fel lettek fújva.

Az Unsloth Studio négylépcsős ellenőrzési rendszere

Az Unsloth Studio egy négylépcsős folyamatot indít el, amikor egy munkafolyamat a letöltésről az végrehajtásra tér át: ujjlenyomat-kötött kódjóváhagyás, külön súlyfájl-kapu, vizsgált OS-sandboxok és kényszerített csomag tartalom szkennelés. Ezeket a protokollokat a meglévő vezérlők kiegészítésére hozták létre, nem pedig azok helyettesítésére.

Az Unsloth Studio minden betöltéskor újraszkenneli a kódot, és ellenőrzi az ujjlenyomatot, valamint a szkenner verzióját. Ha a kód megváltozott, új beleegyezés szükséges. A magas és közepes súlyosságú leletek jóváhagyást igényelnek az aktuális ujjlenyomathoz. A szkenner olyan konkrét viselkedéseket keres, mint a fordított shell megnyitása, felhő-metadatavégpontok elérése vagy hitelesítő adatok ellopása. A szkenner nem sandbox, és a jóváhagyás után a távoli modellkód korlátozás nélkül fut.

Az Unsloth Studio külön ellenőrzi a szerializált súlyfájlokat, beleértve a rosszindulatú pickle fájlokat is. A Hugging Face szkennelési eredményeit felhasználva blokkolja a jelölt fájlokat a kiválasztott betöltő által deszerializálandó útvonalon. A csomagtartalom-szkennerek magát az archívumot vizsgálják, hogy hitelesítő adatokhoz való hozzáférést, elrejtett payloadokat, futtatható indítófájlokat és telepítéskor letöltő-és-futtató viselkedést keressenek. A pip-audit, npm audit, cargo audit, OSV-Scanner, Semgrep és TruffleHog futnak a tartalom szkenneléssel párhuzamosan.