Nyílt támadás érte az OpenAI modelljeit, Kínai cég próbálta meg ellopni a titkosításokat

Az OpenAI szerint a Moonshot AI, a kínai Kimi fejlesztője mögött álló felhasználók koordinált kampányt folytattak a modelljeik rejtett gondolatmenetének kinyerésére. A cég szerdán tette közzé megállapításait egy blogbejegyzésben. Az aktivitás július 1-jén kezdődött alacsony hangerővel, majd július 24-25-én csúcsosodott ki, mintegy 16 000 kéréssel több mint 4 000 felhasználótól. Az OpenAI ezt követően további 15 000 felhasználó esetében talált kapcsolódó tevékenységet. (TNW)

A cég közölte, hogy július 28-ig teljesen leállították a kampányt. Bár nem tudták minden üzemeltetőt egyetlen szereplőhöz kötni, „egy mag-klasztert” a Moonshothoz kapcsolódó személyekhez soroltak. „Ez a tevékenység összhangban van az adverszáriális desztillációval: az egyik modell kimeneteinek vagy gondolatmenetének szisztematikus és jogosulatlan felhasználása egy másik modell képzésének, reprodukálásának vagy javításának segítésére” — írta az OpenAI.

Hogyan működött a kinyerés

Az OpenAI elrejti a modelljei által a válaszadás előtt végzett gondolatmenetet. Az üzemeltetők ezt a titkosított gondolatmenetet másolták ki az egyik beszélgetésből — közölte a cég. Majd egy másik beszélgetésben egy modell arra kérték, hogy dekódolja és írja le azt. Az OpenAI hozzátette, hogy nem törték fel a titkosítást, nem jutottak be adatbázisba, és nem értek el tárolt felhasználói beszélgetéseket.

Azóta letiltották az érintett fiókokat, szigorították a regisztrációs ellenőrzéseket, és további védelmeket adtak a rejtett gondolatmenethez. Emellett megosztották megállapításaikat más AI-laborokkal a Frontier Model Forumon keresztül, valamint kormányzati csatornákon is.

Vádak és ellenkezés

„Aggodalmunk a szolgáltatási feltételek megsértése miatt van, nem pedig a nyílt modellek vagy a legitim desztilláció miatt” — mondta Caroline Zier, az OpenAI stratégiai nemzetbiztonsági politikai kezdeményezéseinek vezetője a Bloombergnek. Ez az első alkalom, hogy az OpenAI a Moonshotot vádolta meg, jelentette a Bloomberg. Az Anthropic is hasonló állítást tett a céggel szemben egy múlt hónapi jelentésében, jegyezte meg a Bloomberg. Amerikai ügynökségek hasonló vádat fogalmaztak meg.

Egy ebben a hónapban kiadott tanácsadó dokumentum hat kínai céget és az általuk célzott amerikai modelleket nevezett meg. Kína megalapozatlannak utasította el a tanácsadót. Nem mindenki fogadja el a vádakat. David Sacks, Trump korábbi AI-czárja a jelentésekre reagálva azt mondta, hogy ezek a jelentések arra irányulnak, hogy az Egyesült Államok betiltsa a rivális nyílt modelleket, jelentette a Bloomberg. A Moonshot otthon is vizsgálat alatt áll. Kínai szabályozók vizsgálják a DeepSeeket és a Moonshotot is, jelentette a The Information ebben a hónapban.