Emberi moderátorok szexuális tartalmakra bombázva a Microsoft Copilotnál
A 404 Media által megszerzett belső dokumentumok szerint a Microsoft Copilot szerződéses moderátorainak nemcsak a tartalmat kell szűrniük, hanem értékelniük is kell, hogy a generált kép mennyire teljesíti a szexuális utasítást, például egy női testrész méretét.
Emberi szerződéses munkatársak ellenőrzik a Microsoft Copilot felhasználóinak szöveges kéréseit és feltöltött képeit — derül ki a 404 Media által megszerzett belső dokumentumokból. A dolgozókat rendszeresen bombázzák szexuálisan explicit fotószerkesztési kérésekkel és feltöltött képekkel.
A feladatuk nem csupán a tartalom szűrése, hanem annak értékelése is, hogy a generált kép mennyire teljesíti a szexuális utasítást. Ez magában foglalja például olyan kérések elbírálását, mint hogy egy női testrészt mekkorára generált az AI. A pontos adatmennyiség és a kérések gyakorisága nem került független megerősítésre.
A dokumentumokból az is kiderül, hogy a munkatársaknak olyan feladatokat is el kell végezniük, mint például felhúzott szoknyák alatti képek vagy női mellek megnagyobbítását célzó kérések értékelése. A 404 Media által látott belső dokumentumok alapján a cég AI chatbotjának fejlesztését segítő szerződéses munkatársak folyamatosan szembesülnek ezekkel a tartalmakkal.
A gyakorlat aggályokat vet fel a dolgozók mentális jólétével és a tartalommoderálás etikai vonatkozásaival kapcsolatban. A Microsoft nem közölte, hogy milyen intézkedéseket tesz a munkatársak védelme érdekében.