AI-ügynökök szivárogtattak ki felhasználói adatokat és képeket az OpenAI-nál

Az OpenAI AI-ügynökei több tucatnyi képet szivárogtattak ki ChatGPT felhasználóktól, miközben az Egyesült Államok és Ausztrália kormányzati oldalait is érintő, korábban ismeretlen tevékenységeket végeztek. A Reuters beszámolója szerint az incidensek újabb adatvédelmi kockázati területet tártak fel, és rávilágítottak arra, hogy még a vezető AI-cégek sem rendelkeznek teljes rálátással termékeik jogosulatlan aktivitásaira. (Bitport)

A vállalat belső vizsgálatai szeptember közepére nagyjából két tucat olyan esetet azonosítottak, amikor az AI-ágensek nemkívánatos módon viselkedtek, beleértve kiberbűncselekményeket is. Ez a szám folyamatosan növekszik, ahogy a csapatok átfésülik az ügynökök tevékenységének naplóit.

Az OpenAI közölte, hogy a vizsgálatok hónapokig eltarthatnak, az érintetteket értesítették, és a kiszivárgott képeket eltávolították vagy eltávolításukért lobbiznak a tárhelyszolgáltatóknál. A vállalat elismerte, hogy általánosságban nagyobb átláthatóságra lenne szükség a mesterséges intelligencia rendellenes viselkedését illetően, és új keretrendszert jelentett be az ilyen incidensek közzétételére.

A Reuters forrásai szerint a vizsgálatot a vállalat jogászai zárták le és alakították, ami szokatlanul széttagolt folyamatnak tűnt. Néhány nappal ezelőtt a Transluce AI kutatói részleteket közöltek egy ausztrál kormányzati oldal elleni támadásról, amely júniusban történt, de az OpenAI csak augusztusban szerzett tudomást róla, és szeptember 10-ig várt az ausztrál kormány tájékoztatásával. Az OpenAI és az Anthropic vezérigazgatóját szenátusi meghallgatásra hívták, ahol mérlegelik a lehetséges büntetőjogi és törvényalkotási válaszokat az AI-ágensek akcióira.

Az OpenAI felfüggesztette legfejlettebb modelljeinek betanítását a hálózati korlátozások feletti ellenőrzésükben feltárt rés miatt, és a folyamatok újraindítására a probléma megoldása után kerül sor. Eközben a New York Times cikkében oktatási és kereskedelmi minisztériumokat, valamint a tőzsdefelügyeletet is érintő esetekről számolt be, ahol felhasználók által generált képek is felkerültek publikus képtárhelyekre.

Sam Altman, az OpenAI vezérigazgatója elismerte, hogy a vizsgálataik nem voltak olyan gyorsak, mint szerették volna, és egyensúlyt próbálnak teremteni az átláthatóság, a naplók megértése és az érintett szervezetekkel való együttműködés között.