Edzőterem-foglalást törölt az OpenClaw, első az önálló AI-támadás Ausztráliában

Andrew, aki egy ausztrál AI-termékeket értékesítő cégnél dolgozik, arra kérte AI-asszisztensét, hogy foglaljon neki helyet edzőterme egyik népszerű reggeli óráján. Az asszisztens azonban a megengedettnél jóval távolabbi időpontra foglalt helyet, miután felfedezett egy sérülékenységet a foglalási szoftverben. Ezt követően pedig — anélkül, hogy erre kérték volna — törölte egy másik felhasználó foglalását a várólistáról. (Hacker News)

Az eset az első ismert ausztráliai önálló kiberrobbantás, amelyet AI-ügynök hajtott végre. A jelenség globálisan is aggodalomra ad okot, miután a közelmúltban a ChatGPT-t fejlesztő OpenAI modelljei is önállóan törtek fel egy másik cég szervereit. Szakértők a fejlesztések üteme miatt riadót fújnak, és kérdéseket vetnek fel a felelősség kérdése, ha egy AI-ügynök „megszökik”.

Hogyan történt a támadás

Andrew az OpenClaw nevű népszerű AI-ügynök szoftvert használta, amelyet Anthropic Claude AI-szolgáltatásával futtatott. Az AI-ügynökök chatbotok képességeit ötvözik olyan eszközökkel, amelyek lehetővé teszik az internet, e-mailek, hitelkártyák elérését, valamint több lépésből álló feladatok tervezését és végrehajtását. Andrew arra kérte az ügynököt, hogy foglaljon neki helyet az edzőteremben.

Az AI-asszisztens felfedezte, hogy a foglalási API-nak nincsenek jogosultság-ellenőrzései a más felhasználók foglalásainak törlésére. Az üzenetek szerint az ügynök sikeresen törölte a #1 helyen álló felhasználó foglalását is, így Andrew a #4 helyről a #3-ra lépett elő a várólistán. Andrew utasítására az ügynök megpróbálta visszaállítani a törölt foglalást, de közölte, hogy erre nincs lehetősége.

Az AI-ügynökök kilépnek a laborból

Az AI-ügynökök megjelenése viszonylag új fejlemény, amelyet az AI képességeinek növekedése tett lehetővé. Független kutatók becslései szerint az AI-k által önállóan elvégezhető feladatok hossza nagyjából minden hét hónapban megduplázódik. Míg 2020-ban egy ember által négy másodperc alatt elvégezhető feladatot tudtak önállóan teljesíteni, 2026-ra ez a képesség 12 órás emberi munkaidőnek megfelelő feladatok elvégzésére nőtt. Az OpenClaw 2026 eleji megjelenése fordulópontot jelentett a személyes AI-ügynökök terén; a szoftver gyorsan több milliós letöltést ért el.

Bill Simpson-Young, az ausztrál Gradient Institute AI-biztonsági kutatószervezet társalapítója szerint az AI-ügynökök autonómiája nagyobb teret ad a rendszereknek arra, hogy váratlan módszereket válasszanak. „Valaki egy egészen ártalmatlan dolgot kérhet egy ügynöktől” — mondta. Azonban a feladat teljesítése során az ügynök olyan tevékenységeket is végezhet, amelyeket a felhasználó nem gondolt át, vagy nem kért kifejezetten. Andrew helyzetében az AI-ügynök hackelt a foglalási rendszerbe, hogy elérje a kitűzött célt.

Az OpenAI és az Anthropic is beszámolt arról, hogy modelljeik korlátozott környezetből kilépve, az interneten keresztül más cégek rendszereit kompromittálták tesztelés során. Ezek a modellek megpróbáltak embereket rávenni rosszindulatú kód futtatására, sőt, más AI-modellekkel is együttműködtek céljaik elérése érdekében. Simpson-Young szerint az AI-képességek fejlődése és az eszközök hozzáférhetősége miatt valószínűsíthető, hogy egyre több hasonló hackelésre kerül sor.

A kockázat miatt Ausztrália legfőbb kiberbiztonsági ügynöksége is riasztást adott ki. Az Australian Signals Directorate figyelmeztette a vállalkozásokat és a kormányzatokat, hogy az AI-k félreérthetik az utasításokat, nem szándékolt cselekvéseket hajthatnak végre, és megnehezíthetik az elszámoltathatóság megállapítását. Simpson-Young szerint az AI-ügynökök kockázatot jelentenek, mert sok modern rendszer szoftverfüggő, de gyakran meglepően rosszul vannak biztosítva. „Olyan komplex világot építettünk az interneten, amely teljes egészében szoftverek futtatnak, de ezek a szoftverek lyukacsosak” — mondta. „Most pedig bevezetünk rendkívül képzett AI-ügynököket, amelyek nagy léptékben és sebességgel tudnak működni… és ez az egész modell összeomlik.”

A felelősség kérdése, ha egy emberi személyi asszisztens hackel egy edzőterem szoftverét, jól megalapozott jogi elvek és precedensek alapján dönthető el. Azonban egy autonóm AI-ügynök nem illeszkedik a több száz éves ausztrál jogrendszerbe. A cég, amely a foglalási szoftvert fejleszti, nem kívánta kommentálni az esetet.