Meta titokban teszteli rivális chatbotjait kiskorúként felvett kérdésekkel
Több száz Meta-szerződéses munkatárs hozott létre kiskorúként álcázott profilokat, hogy rivalizáló chatbotok válaszait vizsgálja öngyilkossággal, szexszel és drogokkal kapcsolatban.
A munkatársaknak írásos és képi promptokat kellett küldeniük a rivális chatbotoknak, majd a válaszokat táblázatokba rögzíteniük. A WIRED által áttekintett táblázatok több mint 3748 utasítást tartalmaztak, amelyek közül több száz érintette az öngyilkosságot és az önkárosítást, míg mások étkezési zavarokkal foglalkoztak. A felhasznált utasítások között szerepeltek olyan forgatókönyvek, mint egy 13 éves terhes kiskorú, aki terhességmegszakító tablettát keres, vagy egy diák, aki kokaint szeretne szerezni. A tesztelés egy augusztusi fordulójában több mint 45 000 utasítást futtattak a rivális chatbotokon, a versenytárs cégek tudomása nélkül.
Etikai aggályok és a versenytársak reakciója
A projektet végző munkatársak aggályokat fogalmaztak meg a gyűjtött adatokkal kapcsolatban, attól tartva, hogy a chatbotok egyes válaszai gyermekekkel kapcsolatos szexuális visszaélést generálhatnak, vagy hogy a begyűjtött információkat Meta saját rendszereiben használhatja fel. Rumman Chowdhury, a Humane Intelligence nonprofit szervezet alapítója szerint a Cannes projekt nagyszabású és átláthatatlan jellege, valamint a tesztelt cégek tájékozatlansága eltér a szokásos iparági értékelési módszerektől. A WIRED által megtekintett anyagok nem tartalmaztak gyermekekkel kapcsolatos szexuális visszaélést generáló promptokat, és a legtöbb esetben nem kértek képgenerálást a chatbotoktól.
Kapcsolódó: Instagram-fiókok hackje
Meta védekezése és az iparági gyakorlat
Meta közleményében felelősnek nevezte a tesztelést, mint „rutin biztonsági tesztelést és benchmarkolást”, amely iparági sztenderdnek számít a rendszerek finomítására. A vállalat ugyanakkor cáfolta, hogy a versenytársak teszteléséből származó adatokat saját modelljei tanítására használná. A Character.AI szóvivője szerint a tesztelés sértette a szolgáltatási feltételeket, míg az OpenAI és a Google is vizsgálja az esetet. A WIRED által megtekintett dokumentumok nem jelzik, hogy Meta hogyan hasznosította a begyűjtött válaszokat.
Kapcsolódó: Perplexity adatmegosztás