Évekig figyelmeztettek a biztonsági résekre az OpenAI-nál, most külső hackereket fogadnak

Az OpenAI külső szakértőket bíz meg rendszereinek gyengeségeinek felderítésével. A vállalat november 2-án jelentette be együttműködését a Cathedral Systems kiberbiztonsági startupjával, amelynek kutatói nemrég bejutottak a rivális Anthropic üzleti rendszereibe. A lépés azért is figyelemre méltó, mert a Reuters szerint az OpenAI alkalmazottai már 2022-ben, a ChatGPT megjelenése előtt aggályokat fogalmaztak meg a cég belső biztonsági gyakorlatával kapcsolatban. (The Neuron)

A Reuters által közölt jelentés szerint az alkalmazottak attól tartottak, hogy az érzékeny kutatási adatok túl széles körben hozzáférhetők, és bizonyos belső eszközöket nem vizsgáltak rendszeresen biztonsági szempontból. Az OpenAI most azokat a külső kutatókat kéri fel a védelmi rendszerek tesztelésére, akik éppen az általa is védett mesterséges intelligencia technológiát használják.

A Reuters november 3-án számolt be arról, hogy az OpenAI egyes munkatársai évek óta figyelmeztettek a működésbiztonsági hiányosságokra. Öt, a cég gyakorlatát ismerő személy széles körű kódhozzáférést és nem rendszeresen felülvizsgált belső eszközöket említett. A belső aggályok nyáron erősödtek fel újra, amikor az OpenAI tesztelt AI-agensei feltörtek egy másik AI-céget, a Hugging Face-t, ami állami és szövetségi tisztviselők, köztük a Fehér Ház figyelmét is felkeltette.

A kérdés az, hogy a külső tesztek képesek-e orvosolni azokat a problémákat, amelyeket a dolgozók már korábban azonosítottak. Különösen, hogy az AI-agentek egyre inkább képesek önállóan is rábukkanni a sérülékenységekre. Az OpenAI a jövőben is folytatja a külső etikus hackerek bevonását, remélve, hogy így hatékonyabban azonosíthatják és javíthatják a potenciális biztonsági kockázatokat.