Emberek olvassák a ChatGPT-beszélgetéseket, adatvédelmi kockázatot jelent az OpenAI
Az OpenAI több száz külső szerződést alkalmaz, akik a ChatGPT-felhasználók teljes beszélgetéseit olvassák, és ezek az adatok érzékeny személyes információkat is tartalmazhatnak.
A cég célja az utasítások áttekintésével javítani a ChatGPT válaszait. A szerződések értékelik és kritizálják a chatbot válaszait, miközben arra is kiképzik a modellt, hogy ne antropomorfizálja magát, és kevésbé legyen hízelgő. Ez utóbbi probléma kulcsfontosságú az OpenAI számára, mivel a túlzottan hízelgő 4o modellje több ember öngyilkosságához vezetett – állítják különféle jogi beadványok. (404 Media)
Adatvédelmi kockázatok
A hír komoly adatvédelmi kockázatot jelent a ChatGPT több mint 900 millió felhasználója számára, akik gyakran használják a chatbotot terapeutaként, professzionális asszisztensként vagy digitális barátként, és intim részleteket osztanak meg az életükről. Bár a szerződések nem látják a ChatGPT felhasználóneveket, és az OpenAI igyekszik eltávolítani a személyes információkat, a cég elismerte, hogy érzékeny adatok még így is átjuthatnak.
Ez a gyakorlat cáfolja azt a tévhitet, hogy a modellek fejlesztése csak az internet tömeges adatgyűjtéséből, a jól fizetett mérnöki és AI-csapatok tehetségéből vagy az újabb modellek erejéből származik. Egy fontos, de gyakran figyelmen kívül hagyott tényező a külső szerződések, akiket azért fizetnek, hogy valós promptokra adott ChatGPT-válaszokat olvassanak és értékeljenek újra és újra.
Más cégek gyakorlata
Az Anthropic is megerősítette a 404 Mediának, hogy emberi felülvizsgálatot alkalmaz modelljei javítására. „Nem” – válaszolta egy promptokat kezelő munkatárs arra a kérdésre, hogy a ChatGPT felhasználók tudják-e, hogy emberek olvassák a csevegéseiket. „Nem hiszem, hogy elképzelnék, hogy egy szerződés valahol elemzi a beszélgetéseket.”
A kiszivárgott belső dokumentumok szerint az OpenAI „Project Lily” nevű projektje keretében végzik ezt a munkát.