ÉlőUtoljára: 19 perceMa: 3
Biztonságfrissítve: 02:15

Egy AI-kódolóagent nyilvános kódba írt hitelesítő adata szivárogtatta ki a Together AI promptjait

A kiszivárgott hitelesítő adattal a támadó öt további szolgáltatás kulcsát is tesztelte, a promptmintákat pedig a MiniMax M3, a GLM-5.2 és a Kimi K2.6 modellekhez érkezett kérésekből gyűjtötte; a visszavont commit a xorl nyilvános GitHub-tárhelyen volt.

Egy AI-kódolóagent nyilvános kódba írt hitelesítő adata szivárogtatta ki a Together AI promptjait
Fotó: Michael Geiger / Unsplash
forrás: Together AI·AI Forradalom szerk.·
Megosztás

A Together AI szerint június és július folyamán az általa kiszolgált AI-modellekre küldött utasítások egy része illetéktelen kezekbe került. A cég a szivárgást egy nyilvános GitHubon közzétett hitelesítő adat okozta — írja a Together AI saját blogja.

A promptmintákat a cég rutinszerű szoftvertesztelés céljából gyűjtötte, és egy privát Hugging Face-tárolóban tárolta. Az érintett kérések főként a MiniMax M3, a GLM-5.2 és a Kimi K2.6 modellekhez érkeztek, többnyire június 24-én, július 4-én, július 8-án és július 14-én.

Hogyan került ki a hitelesítő adat

A Together AI a nyilvános xorl GitHub-tárhely fejlesztése közben egy AI-kódolóagent commitjával a privát tárhelyhez való hozzáférést adó hitelesítő adatot tett közzé. Az automatikus vizsgálat felfedte a kiszivárgott adatot, a commitot pedig visszavonták.

A kiszivárgás időszaka alatt egy illetéktelen fél megszerezte a hitelesítő adatot, és letöltötte a tárolt promptmintákat. A támadó ezután más szolgáltatások hitelesítő adatai után kutatott a mintákban, és ellenőrizte, hogy ezek érvényesek-e. A cég szerint öt tesztelt hitelesítő adat a Dragos biztonsági kísérletéhez tartozó csalikulcs volt.

Vizsgálat és az érintettek köre

A cég külső szakértő kriminalisztikai céggel és a hatóságokkal együttműködve vizsgálja az esetet. A Together AI szerint a felülvizsgálat eddig nem talált további promptszivárgásra utaló jelet. Azt, hogy az érintett utasítások tartalmaztak-e érzékeny személyes adatot vagy más ügyféladatot, a cég még vizsgálja; az érintett ügyfeleket szükség esetén közvetlenül értesítik.

A cég szerint nincs okuk feltételezni, hogy a támadó tovább terjesztette volna az adatokat, és úgy tudják, az adatokat időközben törölték.

Milyen változtatásokat vezettek be

A Together AI a fejlesztési folyamatok, a hitelesítő adatok és az ügyféladatok védelmét erősítette meg. Ezek közé tartozik a hosszú élettartamú kulcsok helyett szűkített hatókörű vagy rövid életű, illetve ahol lehet, kulcs nélküli hozzáférés bevezetése, minden pull request hitelesítő adat-ellenőrzése, a zero data retention (ZDR) alapértelmezetté tétele az új fiókoknál, valamint az AI-kódolóagentek használatát szabályozó folyamatok frissítése.

Az érzékeny promptadatokat kezelő ügyfeleknek a cég azt javasolja, hogy fiókbeállításaikban kapcsolják be a ZDR-t. A kérdéseket a [email protected] címre lehet küldeni.

Forrás

Feldolgozott sajtóforrás·Together AI

Eredeti cikk megnyitása →

Ez a cikk a fenti sajtóforrás alapján készült AI-összefoglalóval.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom