Két millió csalititkot küldött AI-szolgáltatókhoz a Dragos kutatója
A Dragos kutatója két millió nyomkövethető titkot küldött AI-szolgáltatókhoz, és a titkok több helyen is megjelentek az interneten, ami feltört szolgáltatókra és adatvédelmi szabályok megsértésére utal.

Két millió nyomkövethető, úgynevezett kanári-titkot küldött AI-szolgáltatóknak HD Moore, a Dragos biztonsági cég vezető kutatója, hogy kiderítse, mi történik az érzékeny adatokkal az AI-szolgáltatási láncban. A kísérlet eredménye szerint a rendszer szinte szitaként szivárogtatja az adatokat — írja az Ars Technica.
Hogyan működött a kísérlet
Sok mai AI-alkalmazás olyan közvetítőket, úgynevezett AI-routereket használ, mint az OpenRouter vagy a Vercel. Ezek a promptokat a legolcsóbb vagy legalkalmasabb modellhez irányítják. Moore AWS-hozzáférési kulcsokat, SSH-jelszavakat és privát git-tárolókra mutató hivatkozásokat helyezett el a promptokban, mindegyiket pontosan egy szolgáltatónak küldve. Ha a kulcsok kiszivárognak, az egyes láncszemek azonosíthatók.
A kutató szerint az utasítások a titkosítás ellenére minden közvetítőnél visszafejtődnek, hiszen az AI-router a nyílt szövegből dönt a továbbításról. Az AI-router így gyakran több szolgáltatóhoz is eljuttatja ugyanazt a kérést, és minden ilyen szereplő naplózhatja is azt.
Feltört szolgáltatók és lopott kulcsok
A legsúlyosabb eredmény három különböző tárhelyszolgáltató feltörése volt. Moore szerint a támadók néhány száz AWS-kulcsot használtak fel újra, és ezeket minden esetben a szolgáltató bejáratánál, még a modell futtatása előtt másolták le. Két feltörésnél a lopott kérések ZDR, vagyis nulla adatmegőrzési jelzéssel voltak ellátva, ami a támadás ellen nem nyújtott védelmet.
A lopott kulcsokat az események után óráson belül tesztelték, és több tízezer AWS API-hívásban használták őket. Moore szerint a két szolgáltatót szinte azonnal, ugyanarról a bérelt szerverről használták, ezért valószínűleg ugyanaz a támadó állt mögöttük.
Viszonteladók és adatvédelmi szabályok megsértése
Több viszonteladó is naplózta a promptokat, miután alacsony árakkal csalogatta az ügyfeleket. Moore azonosította őket, mert ugyanazt a modellt különböző eladókon keresztül kérte le. Egy kínai AI-labor rendszerei a promptokban elhelyezett titkos URL-ek több mint felét lekérték nemrég, a „no data collection” jelzéssel ellátott kérések mintegy kétharmadánál is. Az amerikai tárhelyszolgáltatók, amelyek ezeket a modelleket viszonteladják, ugyanezt a lekérdező mechanizmust hozták működésbe, így az adatok az adott laborhoz visszaáramlottak.
Mit tehetnek a felhasználók
Moore szerint a szivárgás megelőzésének legeredményesebb módja a saját szerveren futtatott modell, ez azonban drága. Aki ezt nem engedheti meg magának, annak az első szintű szolgáltatótól, egyetlen szerződéssel érdemes szolgáltatást igénybe venni, ez sem nyújt azonban teljes garanciát. Ezen felül nem az alapértelmezett szolgáltatói készleteket kell elfogadni, hanem magunk kell kiválasztani a mögöttes szolgáltatót. A Dragos kutatásának eredménye szerint a több tízezer AWS API-hívás már a feltörést követő órában megtörtént.