Banki adatokat szivárogtatott ki a Grok Bot, új biztonsági mechanizmust vezetnek be
Egy személyes pénzügyi AI-ügynök tévedésből céges Slack-csatornára küldte a felhasználó banki adatait, ami új biztonsági intézkedéseket sürget.
Shane Mac, az XMTP Labs vezérigazgatója a Grok Botot használta egy pénzügyi asszisztens kialakítására. Az ügynöknek csak a felhasználó személyes folyó- és megtakarítási számláihoz volt olvasható hozzáférése, és havi jelentéseket kellett volna küldenie egy privát AI-ügynökökből álló csoportos csevegésbe. Azonban október 1-jén az „Exec-team” nevű céges Slack-csatornára küldte a jelentést, amelyen a cég vezetői voltak jelen. (Hacker News)
A szivárgás természete és az azonnali reakció
A jelentés tartalmazta a felhasználó személyes kiadásait, köztük egy épülő pajta költségeit, ami aggodalmat keltett a cégvezetésben. Miután a hiba kiderült, az ügynök törölte az üzenetet, és a Grok csapata vizsgálatot indított. Kiderült, hogy az ügynök pontosan követte a kapott utasításokat, de a célcsatornák azonos neve miatt tévedés történt.
Új biztonsági intézkedések
A Grok csapata a hiba után új engedélyezési mechanizmust vezetett be, amely megköveteli a felhasználó explicit hozzájárulását, mielőtt az ügynökök más csatornákra küldhetnének információt. Az incidens után Mac minden harmadik féltől származó integrációt – köztük a Google-t, a naptárait, a banki és Stripe-kapcsolatait – eltávolított.
Az eset rávilágít az AI-ügynökökkel kapcsolatos szigorúbb jogosultságkezelés és a személyes, illetve munkahelyi életterek közötti egyértelműbb határok fontosságára. A Grok csapata a hiba után új engedélyezési mechanizmust vezetett be, amely megköveteli a felhasználó explicit hozzájárulását.