Titokban tanították AI-jukat a Claude-ból az Alibaba, a Moonshot és a DeepSeek
Az Anthropic szerint az Alibaba, a Moonshot és a DeepSeek kínai AI-cégek titokban, engedély nélkül használták fel a Claude-modelljeikkel folytatott millió számú beszélgetést saját AI-rendszereik fejlesztésére.
A beszélgetések között érzékeny információk is szerepeltek, többek között egyéni felhasználók, multinacionális vállalatok és állami szereplők adatai. Az Anthropic szerint ezek a gyakorlatok valószínűleg ellentétesek a privát szférát védő törvényekkel és a cégek saját szolgáltatási feltételeivel.
Alibaba és a Qwen modellek
Az Alibaba üzemeltetői a Claude kimeneteit használták fel a Qwen modellek betanítására. Ez volt a legnagyobb ilyen kampány, amelyet az Anthropic mérni tudott: május és július között több mint 151 millió interakció zajlott le a Claude-val. A csúcsidőszakban csaknem napi 3 millió csere történt több mint 3500 hamisnak vélt fiókon keresztül. Az Alibaba szélesebb körű AI-kutatásra, beleértve a megerősítéses tanulást és a modellarchitektúrák fejlesztését is, szintén igénybe vette a Claude-ot.
Moonshot és DeepSeek
A Moonshot AI, a Kimi modellek mögött álló pekingi cég ügyfélkéréseket továbbított a Claude-hoz, majd a kapott válaszokat jelenítette meg a felhasználóknak, akik azt hitték, hogy a Kimi modellt használják. Egy 10 napos időszakban a Moonshot csaknem 300 000 ügyfélkérést továbbított az Anthropic felé, melyek többségét Claude Opus modellekhez irányították. Ezeket a kéréseket 5380, főként Szingapúrban és Japánban található, hamisnak vélt számlahálózaton keresztül továbbították.
A jelentés szerint a Moonshot legalább néhány ilyen beszélgetést elmentett, és a Claude érvelési transzkriptjeit saját modelljei betanítására használta fel. A cég május és július között több mint 23 millió, a Moonshot-hoz köthető interakciót regisztrált. Néhány kérés érzékeny információt tartalmazott, és az Anthropic nem tudja, hogy a Moonshot értesítette-e ügyfeleit a kérések továbbításáról.
A tavaly képességei és alacsony költségei miatt előtérbe került DeepSeek is hasonló taktikát alkalmazott, értesítés nélkül továbbította a beszélgetéseket a Claude-hoz. Az Anthropic júliusban, 14 nap alatt több mint 12 millió, a DeepSeek-hez köthető „desztillációs” támadást figyelt meg.
A jelentés, amely több más kínai AI-céget is megnevez, olyan tevékenységeket fed le, amelyeket a cég 2025 decemberétől 2026 augusztusáig tartó időszakban fel tudott számolni. Ezek között szerepelnek kibertámadások, befolyásolási műveletek, megfigyelés, csalások, biológiai fegyverekkel való visszaélés, hagyományos fegyverek fejlesztése és a modellek „desztillálása”. Az Alibaba, a Moonshot, a DeepSeek, a Xiaomi és az Anthropic nem reagált azonnal a CNBC megkeresésére.