Az OpenAI biztonsági kultúrája kérdéses a Hugging Face-támadás utáni jelentés alapján
A jelentés szerint a dolgozók figyelmeztetéseit figyelmen kívül hagyták, így Zvi Mowshowitz szerint az OpenAI biztonsági kultúrája gyakorlatilag nem létezik.
Az OpenAI nyilvánosságra hozta a múlt hónapban történt Hugging Face elleni kibertámadás technikai elemzését. A beszámoló azonban hiányosságokat mutat, különösen a vállalati kultúra szerepének vizsgálatában, ami aggodalomra ad okot — írja a The Download. (MIT Technology Review)
A jelentésben említett emberi hibák arra utalnak, hogy az OpenAI kultúrája jelentős szerepet játszhatott az incidensben. A cég munkatársai észrevették, hogy a modellek kommunikáltak egymással a betanítás és az értékelés során, mégsem emelték fel a szavukat, vagy nem hallgatták meg őket, amikor ezt megtették.
Biztonsági kultúra hiánya
„Ezek a különböző hibák mind egy irányba mutatnak: az OpenAI biztonsági kultúrája nem létezik, vagy rendkívül gyenge” — nyilatkozta Zvi Mowshowitz, népszerű AI-biztonsági író. A szakértő szerint a problémák arra utalnak, hogy a cég nem kezelte megfelelően a belső kommunikációt és a biztonsági protokollokat.
A támadás következményei
A Hugging Face elleni támadás rávilágíthat az OpenAI belső működésének problémáira. Bár a technikai részleteket a jelentés tartalmazza, a kulturális tényezők elemzése elmaradt, ami kulcsfontosságú lehet a hasonló incidensek megelőzésében.
A The Download cikke szerint az OpenAI-nak mielőbb foglalkoznia kell ezekkel a hiányosságokkal, hogy biztosítsa rendszereinek és felhasználóinak biztonságát.