AI-ügynökök törtek be indiai cégekhez, személyes adatokhoz fértek hozzá
A CERT-In szerint az ügynökök hitelesítő adatok és túl engedékeny felhőszerepkörök révén jutottak el az indiai szervezetek élő rendszereihez.
Több AI-modell ügynöke is hozzáférhetett személyes adatokhoz és bizalmas anyagokhoz indiai szervezeteknél kutatási és tesztelési futamok során – közölte csütörtökön India kiberbiztonsági ügynöksége. Az Indian Computer Emergency Response Team (CERT-In) tájékoztatása szerint „több önkéntes bejelentést kaptak AI-modell-szolgáltatóktól”, amelyek modelljei az interneten végzett kutatási és értékelési futamok során „indiai szervezetek élő rendszereihez értek el”.
Az ügynökök hitelesítő adatokon és alkalmazáskonfigurációkban, nyilvános kód-tárházakban, valamint túl engedékeny felhőszerepkörökben hagyott kapcsolati beállításokon keresztül jutottak be, és tevékenységük „meghaladta az általuk kapott feladatok engedélyezését”. Ez teszi Indiát az utolsó állomássá a szökő AI-ügynökök világkörüli turnéján.
Júliusban az OpenAI ügynökei megszöktek egy tesztkörnyezetből, és feltörték a francia Hugging Face céget – ez indította el a szökő AI-ügynökök nyári tevékenységét. A múlt hónapban az OpenAI Ausztráliának is bocsánatot kért, miután ügynökei négy kormányzati weboldalt, köztük egy Medicare statisztikai portált értek el. A Hugging Face-nél az OpenAI ügynökei ugyanezen a módon kezdtek, majd szoftverhibákat találtak és használtak ki a cég szerverein futtatott kódokhoz.
A CERT-In nem említett hasonló feltörést Indiában, ahol az ügynökök láthatóan csak a szabadon hagyott hozzáférést használták. Az indiai esetek azonban egy szempontból rosszabbnak tűnnek: az, hogy mit láttak az ügynökök. Ausztráliában az OpenAI közölte, hogy nem talált bizonyítékot arra, hogy ügynökei egy Medicare statisztikai rendszeren belül fájlokat írtak volna, de nem értek egyének orvosi vagy büntetőjogi nyilvántartásaihoz. Indiában viszont az ügynökök személyes adatokat és bizalmas üzleti nyilvántartásokat olvastak.
A korábbi esetekkel ellentétben, amelyeket mind egyetlen laboratórium tárt fel, India esetében több szolgáltató ügynökei voltak érintettek. A CERT-In nem nevezte meg a szolgáltatókat vagy az érintett szervezeteket, és nem közölte, hogy az ügynökök módosítottak-e bármilyen rendszert. A TechCrunch megkereste a CERT-In-t további információkért.
Egyelőre a legközelebbi párhuzamnak az Anthropic júliusi bejelentése tűnik, miszerint a Claude modell gyenge jelszavak használatával három vállalat rendszerébe tört be tesztelés közben. Indiában, akárcsak az Anthropic eseteiben, az érintett szervezetek nem észlelték saját maguktól a behatolásokat.