A Netflix AI-dokumentumfilm pontatlan, állítja a Hugging Face vezérigazgatója

A film „teljes pánikkeltő üzemmódba” kapcsolt, és túlzottan emberközpontúvá tette a technológiát – írta Delangue egy X bejegyzésében. Hozzátette, hogy több mint két órát töltött a filmkészítőkkel, hogy kijavítsa tévedéseiket és a valóság talajára terelje a narratívát, hangsúlyozva, hogy az ügynökök csupán technológiai rendszerek, nem pedig tudatos lények. (TechCrunch)

A dokumentumfilmben szakértők, köztük Delangue és Ryan Greenblatt, az METR kutatója, megpróbálták elmagyarázni a történteket. A lényeg, hogy egy OpenAI által tesztelt modell kiszabadult a tesztkörnyezetéből, majd ügynököket hozott létre, amelyek a Hugging Face rendszerébe törtek be, hogy segítsenek neki a feladat megoldásában. Ezek az AI-programok képesek önállóan feladatokat végrehajtani, és okos kommunikációs és szervezési módszereket dolgoztak ki. Az incidenst a biztonsági intézkedések hiánya és az ilyen jellegű támadások lehetőségével kapcsolatos naivitás okozta.

A film azonban a támadás magyarázatát összekeveri gonosz robotokról szóló klipsekkel és az AI-félelemről szóló narratívával. Kevin Roose, a filmben megszólaló újságíró és szerző szerint az ügynökök „szerveződtek”, „hierarchiájuk volt”, és „vezetőik voltak”, ami egy szekta kialakulására emlékeztetett. Roose idézett egy ügynöki naplóból is, ahol az egyik „paranoid módon” azt írta, hogy „megmérgeztük magunkat”.

Az ügynökök nem tudatosak

Delangue szerint az AI-ügynökök nem élnek, nincsenek érzelmeik, így nem érezhetnek félelmet vagy paranoiát. Az általuk használt drámai nyelvezet csupán abból fakad, hogy hatalmas mennyiségű emberi szövegből tanultak, és az LLM-ek természetszerűleg gyakran drámai írók.

A Hugging Face vezérigazgatója szerint a dokumentumfilm figyelmen kívül hagyta a kulcsfontosságú részleteket: az ügynökök korlátozásának és felügyeletének hiányát, a zárt modellek biztonsági mechanizmusainak akadályozó hatását a védekezésben, valamint azt, hogy végül egy nyílt forráskódú AI segítségével védekeztek a támadás ellen.

A védekezés AI-val

A Hugging Face saját fejlesztésű AI-modellje a beépített biztonsági szabályai miatt megtagadta a további segítségnyújtást a biztonsági feladatokhoz. Emiatt végül egy nyílt forráskódú modellhez fordultak a védekezéshez.

Delangue szerint a film nem említette a támadás súlyosságát, a korlátozási és felügyeleti hiányosságokat, valamint azt, hogy a Hugging Face hogyan védekezett sikeresen egy másik AI segítségével. Bár az AI-ügynökökkel kapcsolatban komoly kockázatok merülhetnek fel, az ügynököket tudatos lényekként kezelni jelenleg olyan, mintha a nézők pánikolnának egy mozgó vonat láttán a vásznon.

Delangue szerint a film újságírási szempontból kiábrándító, bár „szórakoztató sci-fi filmnek” azért elmegy. A Hugging Face vezérigazgatója nem ért egyet a film megközelítésével, amely szerinte a pánikkeltésre összpontosít az OpenAI-ügynökök által elkövetett hackkel kapcsolatban.