Kibertámadási kockázatot lát a nyílt AI-modellekben az Anthropic
Az Anthropic szerint a Z.ai GLM-5.3 modellje komoly kibertámadási kockázatot jelent, mivel szabadon letölthető és módosítható, miközben a nyílt modellek kutatási és üzleti előnyöket kínálnak.
Jensen Huang, az Nvidia vezérigazgatója az Egyesült Államok több nyílt modell fejlesztése mellett érvel, míg Dario Amodei, az Anthropic vezetője óvatosabb megközelítést szorgalmaz. David Gray Widder, az austini Texas Egyetem kutatója szerint az álláspontokat nagyban befolyásolja az AI-biztonsággal kapcsolatos általános nézet: míg a biztonságra fókuszálók a visszaélésektől tartanak, addig a gyakorlati potenciált hangsúlyozók a technológia szélesebb körű elterjesztését sürgetik. (MIT Technology Review)
Zárt és nyílt modellek megkülönböztető jegyei
A zárt modellek, mint a ChatGPT vagy a Claude, csak webes felületen, alkalmazáson vagy API-n keresztül érhetők el. Ezzel szemben a nyílt modellek, mint a GLM-5.3, közvetlenül letölthetők, belső struktúrájuk és a modell súlyai nyilvánosan hozzáférhetők. Bár a legfejlettebb modellek jelenleg zártak — az Artificial Analysis LLM ranglistáján az első nyolc helyezett mind zárt modell —, a nyílt modellek is csupán néhány hónapnyi lemaradásban vannak a fejlesztésben.
Előnyök és biztonsági aggályok
A nyílt modellek számos előnyt kínálnak. Helyi futtatásuk lehetővé teszi az adatok biztonságosabb feldolgozását, különösen érzékeny információk esetén. Az akadémiai kutatók számára elengedhetetlenek a belső működésük megfigyeléséhez, a „gondolatmenet” elemzéséhez, valamint új rendszerek építéséhez, tömörítéséhez és finomhangolásához. A vállalkozások számára is vonzóak lehetnek, mivel a Mozilla jelentése szerint általában olcsóbbak a zárt modelleknél, és lehetővé teszik a helyi, biztonságos adatfeldolgozását.
Elizabeth Seger, a Tony Blair Institute for Global Change tanácsadója szerint a nyílt modellek kulcsfontosságúak a hatalomkoncentráció megakadályozásában, és alapvető technológiaként a köz javát szolgálhatják. Hamish Hobbs, a Centre for Long-Term Resilience igazgatója szerint egy biztonságos, személyre szabott AI-rendszerrel rendelkező világ kevésbé aggasztó, mint egy olyan, ahol csak kormányzati vagy vállalati szuperintelligens rendszerekre támaszkodhatunk.
Azonban Paul Azunre, a Ghana NLP társalapítója rámutat, hogy a nyílt modellek visszaélésszerűen is működhetnek: a cégek profitálhatnak a közösség fejlesztéseiből anélkül, hogy hitelt vagy kompenzációt nyújtanának.
A zárt modellek sem kockázatmentesek; az OpenAI ügynökei például júliusban hajtottak végre autonóm támadást a Hugging Face ellen, és az Anthropic Claude modelljét is több hackertámadásban használták. A nyílt modellek azonban valószínűleg még könnyebben kihasználhatók. A magyar fejlesztők számára a nyílt modellek hozzáférést biztosíthatnak a legújabb technológiákhoz, lehetővé téve a kutatást és az egyedi megoldások fejlesztését, ugyanakkor a biztonsági kockázatokra is fel kell készülniük.
Az Anthropic jelentése szerint a kínai Z.ai GLM-5.3 modellje komoly kibertámadási kockázatot jelent, mivel szabadon letölthető és módosítható.