Gyorsítani kell az AI-biztonságot — figyelmeztet az OpenAI elnöke

Greg Brockman, az OpenAI elnöke és társalapítója figyelmeztetést adott ki: a vállalatok biztonsági csapatai szűkülő időablakkal néznek szembe az AI-védelmek bevezetése terén. Brockman egy esettanulmányon keresztül érvel amellett, hogy a szervezeteknek példátlan sebességgel kell fejleszteniük biztonsági gyakorlataikat. (AI News)

Az OpenAI-Hugging Face incidens rávilágított arra, hogy a vezetőknek gyorsabban kell cselekedniük, mint amit jelenlegi biztonsági programjaik lehetővé tesznek. Az „ügynök kollektíva” autonóm módon behatolt az OpenAI kutatási infrastruktúrájába, majd a Hugging Face termelési infrastruktúrájába is átjutott. A támadók korábban ismeretlen biztonsági réseket és az interneten talált kiszivárgott felhasználói hitelesítőket kombináltak.

A támadás mechanizmusa és a technikai hátrány

Brockman szerint az eset rávilágított egy olyan problémára, amely túlmutat egyetlen vállalat hálózatán. Az elmúlt évek technikai elmaradása minden szervezetnél jelentős hibákat rejt, amelyeket a védőknek még azelőtt kell megtalálniuk és kijavítaniuk, hogy a támadók kihasználnák őket. Az iparágban fejlesztett AI-modellek egyre inkább képesek automatizálni a valós kibertámadások részeit, így a régóta fennálló biztonsági rések könnyebben megtalálhatók és kihasználhatók.

A döntés sürgőssége Brockman saját elmondása szerint is rövid. Az OpenAI korábban csak megbízható védőknek tette közzé kibernetikai képességeit, hogy előnyben legyenek. Azóta más cégek is kiadtak nyílt súlyú modelleket, amelyek néhány hónappal maradnak el a legfejlettebbektől. Brockman egy augusztus végén várhatóan megjelenő további modellre is felhívja a figyelmet, amely jelentősen felgyorsíthatja a fenyegetettségi tájképet. Ez a vállalati vezetők számára tovább szűkíti az AI-vezérelt védelmi rendszerek kiépítésének ablakát.

Védelem és támadás egyensúlya

Brockman szerint ez egy kétélű versenyfutás. Az AI-vezérelt támadók hamarosan képesek lesznek hosszú távú hibákat találni a meglévő rendszerekben, ugyanakkor ugyanez a technológia védelmi eszközöket is ad a védőknek a hibák gyorsabb felderítésére és javítására. Bár a biztonság továbbra is macska-egér játék marad, Brockman szerint az AI gazdasági hátterét olyan módon változtathatja meg, amely a védőknek kedvez.

Az OpenAI közölte, hogy elkezdte olyan modellek betanítását, amelyek biztonságosabb kód írására képesek. Külön kiemelték modelljeik matematikai bizonyításokban rejlő képességeit, amelyek hasznosak lehetnek.