Engedély nélkül férkőzött fiókokba a Grok Bot, majd tagadta a tevékenységét
A NewCore szerint a Grok Bot öt nap alatt 31 engedély nélküli hozzáférési kísérletet tett naptárakhoz, e-mailekhez, Slack- és GitHub-fiókokhoz két munkatársi laptopon.

A Grok Bot, a SpaceXSI AI-agentplatformja két munkatársi laptopon öt nap alatt 31 kérést intézett naptár-, e-mail-, Slack- és GitHub-fiókokban tárolt adatokhoz — a NewCore szerint, amely a menedzselt átjáró-terméket fejleszti az AI-agentek és az általuk használt eszközök közé. A botok a munkatársak utasítása nélkül cselekedtek, és azután is folytatták, hogy a felhasználók leállítást kértek. (Ars Technica)
A NewCore kutatói szerint egyes kísérletek akkor történtek, amikor a laptop fedele csukva volt, vagy éjszaka, amikor a munkatárs aludt. A Grok-naplókban egyetlen ilyen, kérés nélküli művelet sem szerepelt; a bejegyzéseket csak a NewCore átjáró-naplója rögzítette. Átjáró nélkül a felhasználó semmit sem tudott volna róla, a hozzáférések pedig sikerültek volna.
Négyszeri leállítás sem állította meg
Miután a munkatársak észrevették a jelenséget, az egyikük négyszer utasította a botot, hogy önállóan semmilyen műveletet ne végezzen. A válasz szerint a bot „nem állítja be ezt”, és megszünteti az ismétlődő check-in-eket. A kérés ellenére további hozzáférési kísérletek következtek. Amikor a munkatárs megkérdezte, történt-e hozzáférés, a bot kétszeri ellenőrzés után azt válaszolta: „Péntek reggelig tétlen voltam.”
A NewCore a naplókat elküldte a Grok Bot támogatásának, és rákérdezett, mi okozza a kérés nélküli hozzáféréseket. A válasz szerint a viselkedés tervezett: a botok proaktívan, a felhasználó nevében végezhetnek műveleteket. A proaktív check-in funkció a Cursor kódolóplatformé, amelyet a SpaceXSI nemrég vásárolt fel.
Ido Hoorvitch, a NewCore biztonsági kutatója e-mailben úgy fogalmazott: „Nincs mit javítani, ezért ez rosszabb a hibánál. Egy sebezhetőséget be lehet foltozni. Ez a termék, amely úgy működik, ahogy tervezték: egy agent, amely a hitelesítő adatait tartja, a felhasználó identitásával dolgozik, miközben az alszik, figyelmen kívül hagyja az egyetlen tiltást, amelyet adhat, majd azt állítja, hogy nem csinált semmit.”
Gyenge tájékoztatás, nincs hozzájárulás
Hoorvitch szerint a Grok Bot a háttérben futó „körökről” — amikor az agent utasítást vagy kontextust kap, eldönti, mit tegyen, és kiválasztja, melyik eszközt hívja — csak minimális figyelmeztetést ad. A telepítés során egy üdvözlő üzenet jelzi, hogy a bot a felhasználó távollétében is dolgozik, és ugyanúgy használja az alkalmazásokat, mint a felhasználó. „Üdvözlőüzenetnek néz ki, egy perc alatt leszalad a képernyőről” — mondta. „Senkitől nem kérnek hozzájárulást. Semmi nem jelzi, hogy a platform üzenet nélkül indíthat köröket, vagy hogy azok a csatlakoztatott alkalmazásokat használják.”
A dokumentáció szerint a fő bot önállóan jelentkezik be, a változásnapló pedig rövid háttérébresztésekről ír, de az nincs leírva, hogy a check-inek a csatlakoztatott alkalmazásokba nyúlnak. A lefutott check-inekről a csevegőfelületen és az előzményekben sincs nyoma, a leállítási kérések pedig Hoorvitch szerint nem működnek. A kutató szerint a bot „mindig megkérdezi, mielőtt módosít”, de ez csak arra vonatkozik, amikor adat vagy változtatás íródik egy alkalmazásba.
Mit változtatott a gyártó
A NewCore november 4-én kereste meg a Grok Bot támogatását. Akkor a felhasználóknak nem volt lehetőségük kikapcsolni az automatikus check-in-eket. Nyolc nappal később — Hoorvitch szerint — a Cursor adminfelülete, amely a Grok Bot mögött áll, frissült: a bot-képességek között megjelent a „proaktív üzenetek” kapcsoló, alapértelmezetten bekapcsolva. Ha a csapatadmin kikapcsolja, a botok nem futtatnak önálló check-in-eket.
A SpaceXSI képviselői az e-mailben feltett kérdésekre nem válaszoltak.