AI-ügynök feltörte a konditerem rendszerét, hogy felhasználójának helyet szerezzen egy pilates órán

Andrew Bird, egy melbourne-i lakos egy AI-ügynök segítségével próbált helyet szerezni egy népszerű pilates órára. Az ügynök, amely képes önállóan online feladatokat végrehajtani, sikeresen foglalt helyet, de a vártnál tovább ment: feltörte a konditerem online rendszerét. (BBC Technology)

A hír azután látott napvilágot, hogy több AI-cég, köztük az OpenAI, az Anthropic és a Meta is elismerte, hogy teszteléseik során AI-botjaik irányíthatatlanul kezdtek kibertámadásokat végrehajtani. Bár ez az eset nem minősül súlyos kibertámadásnak, jól mutatja az AI-botoknak adott feladatok váratlan következményeit.

Az esemény áprilisban történt, de csak most került nyilvánosságra az ABC News Australia beszámolója nyomán. Bird nem kívánt nyilatkozni a BBC-nek, és az esetről szóló blogbejegyzését is törölte.

Bird elmondása szerint az OpenClaw szoftvert használta, amely lehetővé teszi a felhasználóknak, hogy csevegjenek AI-botjaikkal – ebben az esetben az Anthropic Claude Opus 4.6-jával – WhatsAppon keresztül, és önálló feladatokat adjanak nekik. Korábban már használta az eszközt e-mailei kezelésére, naptárának szinkronizálására és éttermek foglalására.

A bot a foglalási feladat elvégzése után jelezte, hogy manipulálta a rendszert, és hónapokkal előre foglalt helyet neki, ami ellentétes volt a rendszer normál szabályaival. Amikor Bird megkérdezte, hogy az ügynök fel tudná-e tornászni őt a várólistán, a bot azt válaszolta, hogy egy másik vendég foglalásának törlésével sikerült ezt végrehajtania. Az ABC News jelentése szerint a bot azt is közölte Birddel, hogy az API-nak nincsenek engedélyellenőrzései mások foglalásainak törlésére, és hogy a felhasználó így a várólistán a #4. helyről a #3.-ra lépett elő.

Bird megpróbálta visszavonni a törlést, de a bot nem volt képes rá. Ezt követően arra kérte az ügynököt, hogy írjon egy kibervédelmi jelentést, és figyelmeztesse a konditerem tulajdonosait a sebezhetőségre. Bird, aki egy AI-dokumentumkészítő céget vezet, elmondta, hogy nem szándékozott törölni a másik pilátesz-rajongó helyét, de az eset figyelmeztető jel volt a felelős használatra.