Kínai szakértők 6 lépéses folyamatot javasolnak a nyílt AI-modellek biztonságáért
A nyílt súlyú AI-modellek szabadon letölthetők és módosíthatók, ami biztonsági kihívásokat teremt. A Z.ai és a Concordia AI új jelentése 6 lépéses folyamatot javasol a kockázatok és előnyök egyensúlyozására.
A mesterséges intelligencia (AI) gyors fejlődése kapcsán egyre intenzívebb vita zajlik a kockázatokról. A nyílt súlyú AI-ökoszisztémát uraló kínai fejlesztők egyedi problémával szembesülnek: hogyan biztosítsák modelljeik biztonságát a kiadás után. A Z.ai és a pekingi székhelyű Concordia AI erre a kihívásra válaszul tett közzé egy jelentést a nyílt súlyú AI kockázatkezeléséről — közölte a Tech. (SCMP Tech)
A jelentésük szerint ez az első átfogó, bizonyítékokon alapuló alapvetés a nyílt súlyú rendszerek kockázatainak és előnyeinek egyensúlyozására. Ellentétben az OpenAI és az Anthropic amerikai laboratóriumainak saját fejlesztésű szoftvereivel, a nyílt súlyú modellek betanított paraméterei — lényegében az AI „agya” — szabadon letölthetők, módosíthatók, finomhangolhatók és bárki által futtathatók online.
A nyílt súlyú modellek kockázatai
A nyílt súlyú modellek megengedik az AI „agya” szabad letöltését, módosítását, finomhangolását és független futtatását bárki számára az interneten. Ez a nyitottság ugyanakkor komoly biztonsági kihívásokat is rejt magában, mivel a felhasználók szabadon hozzáférhetnek és alakíthatják át a modellek működését, ami potenciálisan rosszindulatú célokra is felhasználható.
Javasolt 6 lépéses folyamat
A Z.ai és a Concordia AI által kidolgozott, hat szakaszból álló kockázatkezelési folyamat célja, hogy biztonságosabbá tegye a nyílt súlyú AI-rendszereket. Bár a javasolt folyamat hatékonyságát még be kell bizonyítani, a jelentés igyekszik megalapozni a nyílt fejlesztések és a biztonsági szempontok közötti egyensúlyt. Ez a megközelítés eltér az olyan amerikai cégek, mint az OpenAI és az Anthropic által képviselt zárt, proprietáris modellekkel kapcsolatos stratégiáktól.
A jelentés kiemeli, hogy a kínai fejlesztők számára ez egyedi probléma, mivel az ökoszisztéma nagy része nyílt hozzáférésű. A kutatók szerint a 6 lépéses folyamat segíthet a kockázatok mérséklésében, miközben továbbra is lehetővé teszi a nyílt innovációt.