Az OpenAI vízzel jelöli a ChatGPT-t az EU-ban, de az API-knál kikapcsolható

A textGrain technológia egy statisztikai jelet ágyaz be a modell szavaiba, hasonlóan az Anthropic Claude modelljéhez, amely a Google SynthID-jét használja. Az OpenAI a következő hetekben kapcsolja be a vízjelezést a ChatGPT és Codex felhasználók számára az EU-ban. (The Decoder)

API-felhasználói lehetőségek

Az API-felhasználók számára a vízjelezés világméretűleg opcionális lesz, ellentétben az Anthropic kötelező megoldásával. Az OpenAI megoldása elérhető lesz olyan felhőszolgáltatókon keresztül is, mint a Microsoft Azure. A vállalat tervei szerint a textGrain technológiát nyílt forráskódúként is kiadják, hogy mások is építhessenek rá.

Mérési eredmények és korlátok

Belső tesztek alapján a textGrain hatékonyan észleli a vízjeleket, akár 95%-os arányban 400 tokenes pszichológiai témájú szövegek esetén. A felismerési arány csökken a rövidebb (200 tokenes) vagy kevésbé kreatív, például matematikai tartalmú szövegek esetében. A szöveg szerkesztése, például szinonimák használata, jelentősen csökkenti az észlelési arányt: 10% szócsere 66%-ra, 25% pedig 17%-ra mérsékli a felismerést.

Az OpenAI állítása szerint a vízjelezés nem befolyásolja a kimeneti minőséget, amit az Astra modell nyolc különböző teljesítményteszten végzett tesztjeire alapoznak. A vállalat hangsúlyozza, hogy a vízjel nem azonosítja a felhasználót, nem mutatja a szöveg pontosságát, és annak hiánya sem bizonyítja, hogy ember írta a szöveget. Az észlelési arányt befolyásolhatja a szöveg hossza, témája, szerkesztettsége vagy fordítása.

A textGrain detektorhoz való hozzáférést kezdetben korlátozzák. Csak kiválasztott kutatók és szakmai szervezetek kapnak hozzáférést egy jelentkezési folyamat útján, az EU Code of Practice keretein belül. Az OpenAI a hozzáférés bővítését a jövőre tervezi, amikor úgy vélik, az eredmények felelősségteljesen értelmezhetők lesznek.