Tisztességtelennek nevezte az OpenAI adatkezelését egy matematikus

Andreas Thom matematikus aggodalmát fejezte ki az OpenAI adatkezelési gyakorlatával kapcsolatban. Szerinte a ChatGPT-vel folytatott interakciói és publikálatlan matematikai eredményei bekerülhettek az OpenAI modelljeinek tanítási adathalmazába. Az OpenAI korábban bejelentette, hogy eredményeket ért el a „non-sofic groups” területén, ami Thom szakterülete, és elismerte, hogy az eredmény jelentősen épült Thom és Gábor Kun korábbi munkájára. Az OpenAI a hivatkozások hiánya miatt később módosította a közleményét.

A gyanú eredete

Thom azután kezdett el gondolkodni az OpenAI-val folytatott interakcióin, hogy Tristan Buckmaster, a New York-i Egyetem matematikaprofesszora nyilvánosan megkérdőjelezte, hogy az AI-modellek profitáltak-e az ő Codex-szel kapcsolatos használatából. Thom szerint az OpenAI „részletes parancsnoksága a technikáink felett” arra utal, hogy az interakciók hozzájárulhattak az eredményhez, mivel azok nem voltak magától értetődő vagy a legígéretesebb utak a megoldáshoz.

A cég válasza és a jogi aggályok

Thom e-mailben kérdezte Sébastien Bubeck és Mark Sellke OpenAI-kutatókat, hogy a ChatGPT-vel folytatott beszélgetései „részei-e a tréningadatoknak vagy hozzáférhetőek-e a következtetési folyamat számára”. A válasz azonban nem volt kielégítő Thom számára, mivel csak arra tért ki, hogy a beszélgetések közvetlenül hozzáférhetők-e, nem pedig arra, hogy bekerültek-e a cég hatalmas tanítási adathalmazába. Thom szerint ez „legalábbis tisztességtelenség”.

Thom úgy véli, hogy a kutatók nincsenek felkészülve az OpenAI tanítási folyamatának visszafejtésére, hogy kiderítsék, felhasználták-e a munkájukat. „Csak az OpenAI rendelkezik a szükséges adatokkal ehhez.” Ha a cég tagadja ezt, akkor az ő felelőssége bizonyítani azt az összes releváns adatkészlet nyilvánosságra hozatalával és az adathasználatot szabályozó beállítások és feltételek tisztázásával. Az OpenAI vonakodása a felhasználói adatok felhasználásának kizárásától emlékeztet a Millennium-díjjal kapcsolatos korábbi vitákra is, ahol szintén nem tudtak egyértelmű bizonyítékot szolgáltatni.

Thom szerint az OpenAI megkülönböztetése a „de-identified data” (azonosításra alkalmatlan adatok) és az intellektuális tartalom között megtévesztő. „Az azonosítás eltávolíthat egy nevet; nem távolítja el egy matematikai ötlet intellektuális tartalmát” – mondta. Thom úgy véli, hogy etikailag védhetetlen lenne, ha a felhasználók által megosztott, nem nyilvános kutatások javítanák a modelleket, amelyeket a cég aztán a kutatók ellen fordít a publikációért folytatott versenyben, beleegyezés, megfelelő nyilatkozat vagy elismerés nélkül. Az OpenAI nem reagált azonnal a The Verge megkeresésére.

Az eset tovább fokozza az aggodalmat a matematikai körökben az OpenAI iránt, annak ellenére, hogy a cég kiemelkedő eredményeket ért el a matematika egyik legendás Millennium-díjas problémájának megoldásában. A probléma megoldásának körülményei is szokatlanok voltak: az OpenAI pletykákat hallott arról, hogy más kutatók is jelentős előrehaladást értek el, és úgy döntött, hogy maga is megpróbálkozik vele.

Ez a magatartás arra készteti a kutatókat, hogy még titkosabbá váljanak, mivel attól tartanak, hogy egy nagy áttörés közelében tett megjegyzéseik is versenyt válthatnak ki egy jól finanszírozott technológiai óriással szemben. A matematikusok véleménye szerint a Sellke által adott kategorikus válasz „legalábbis indokolatlanul széleskörű és anyagilag félrevezető volt; visszatekintve egyértelműen tisztességtelen volt”.