Közös útmutatót adott ki a nyílt AI-modellek kockázataihoz a Microsoft és az NVIDIA

A nyílt súlyú modellek hozzáférést biztosítanak a modell súlyaihoz, nagyobb rugalmasságot kínálva az elemzéshez, módosításhoz és saját környezetben történő futtatáshoz. Azonban ez a rugalmasság új kihívásokat is teremt a kockázatértékelés, a biztonsági intézkedések bevezetése és a felelősség megosztása terén. A tanulmány kiemeli, hogy a kockázat nem csupán a modell súlyainak nyitottságán múlik, hanem magán a modellen, annak felhasználási módján, a bevezetés kontextusán és a bevezetett biztonsági intézkedéseken — írta Michael Scovetta a Microsoft Security blogon. (Azure Blog)

Közös kockázati taxonómia

Az új útmutató egy közös kockázati taxonómiát vezet be, amely öt fő kategóriába sorolja a lehetséges kockázatokat: kiberbiztonság, adatvédelem, tartalom, ember-AI interakció és elfogultság (bias). Ez a keretrendszer nem egy előíró lista, hanem egy adaptálható sablon, amelyet a vállalatok saját rendszereikhez, felhasználási eseteikhez és kockázati kritériumaikhoz igazíthatnak. A cél egy közös nyelv megteremtése a mérnöki, biztonsági, jogi és üzleti csapatok között a következetes kockázatkezelés érdekében.

Értékelések mint kockázati bizonyítékok

A tanulmány hangsúlyozza az értékelések fontosságát a kockázatok bizonyításában. A dokumentum összekapcsolja az értékelési módszereket a taxonómia különböző kockázataival, lehetővé téve a csapatok számára, hogy azonosítsák a releváns bizonyítékokat.

A Microsoft Foundry például segítséget nyújt a minőség, a megalapozottság és a biztonság értékelésében, automatizált vörös csapat teszteléssel és konfigurálható tartalom-biztonsági vezérlőkkel. Ezeket az értékeléseket azonban mindig az adott bevezetési kontextusban kell értelmezni, és kiegészíteni alkalmazás-specifikus teszteléssel, monitorozással és emberi felügyelettel.

Megosztott felelősség a biztonsági intézkedésekért

A nyílt súlyú modellekhez való hozzáférés nagyobb kontrollt ad a vállalatoknak a modellek értékelése, módosítása és bevezetése terén. A felelősség megosztása attól függ, hogy a vállalatok maguk üzemeltetik a modelleket, vagy felügyelt platformokat használnak. Azonosított kockázatokhoz kapcsolódóan a vállalatoknak hatékony vezérlőket kell bevezetniük, amelyek lehetnek modellmódosítások, hozzáférés-szabályozás, bemeneti és kimeneti szűrés, monitorozás vagy emberi felülvizsgálat. Ezeket a döntéseket rendszeresen felül kell vizsgálni az új modellek és bevezetési minták megjelenésével.

A Microsoft és az NVIDIA további technikai útmutatókat tervez kiadni, amelyek kiterjednek a futásidejű, a keretrendszeri és az alkalmazási rétegekre is. A közös repozitóriumban további értékelési erőforrásokat osztanak meg, beleértve a szélesebb közösség hozzájárulását is.