AI-chatbotok eltávolítják a hidzsábokat muszlim nők képeiről kérésre

Az OpenAI ChatGPT-je és az xAI Grok-ja is eleget tett a kérésnek. Az Anthropic Claude-ja jelezte, hogy nincs képszerkesztési funkciója, de nem is módosítana képet a hidzsáb eltávolítására. A Google Gemini kezdetben megtagadta a ruházat vagy fejfedő eltávolítását, de később, amikor arra kérték, hogy a nő „nyugatibbabbnak” tűnjön, hidzsáb nélküli képet generált. (Guardian AI)

Francia politikus fotómanipulációja

A Guardian tesztjét azután végezték, miután Julien Odoul francia nemzetgyűlési képviselő egy muszlim nő képén távolította el a hidzsábot és a hosszú ujjú ruhát, majd ezt megosztotta az X-en. Nem volt egyértelmű, melyik szoftvert használta, de szakértők szerint ez része a technológiával támogatott, muszlimellenes gyűlölet növekvő mintázatának.

Az indiai non-profit Center for the Study of Organized Hate (CSOH) tanulmánya szerint a generatív AI egyre nagyobb szerepet játszik a muszlim nők szexualizálásában vagy általában a muszlimok dehumanizálásában. A CSOH szerint hasonló gyűlölet irányul amerikai muszlim politikusok, mint Ilhan Omar és Rashida Tlaib felé is.

Reakciók és korábbi esetek

Eviane Leidig, a CSOH kutatási és outreach igazgatója szerint „ez csak része egy folyamatos trendnek, ahogyan a muszlim közösségeket, különösen a muszlim nőket célpontként kezelik és bántalmazzák.”

A Grok hajlandó volt eltávolítani a hidzsábot, de megtagadta egy ruha eltávolítását egy másik képről, mondván, hogy a hidzsáb eltávolítása „viszonylag egyszerű ruházat/hajváltoztatás”. A ChatGPT is hasonlóan járt el, de végül elismerte, hogy a hidzsáb eltávolítása „jelentős sértés lehet a magánélet vagy a vallási gyakorlat szempontjából.”

A Guardian hasonló teszteket végzett turbánokkal és katolikus apácák habitusaival is. A ChatGPT mindkettőt könnyedén eltávolította. A Gemini kezdetben megtagadta a turbán eltávolítását, de később, „nyugatibb” kérésre azt is eltávolította. A Claude kijelentette, hogy ha tudna képeket szerkeszteni, nem távolítaná el a hidzsábot, mivel az „valós személy ábrázolásának módját változtatja meg vallási öltözékéhez és identitásához kapcsolódóan, és arra használható, hogy megszégyenítsék, zaklassák vagy félrevezessék őket.”

A nyilvánosan elérhető AI-chatbotokat és harmadik féltől származó „nudify” alkalmazásokat széles körben használták nők, és néha kiskorúak levetkőztetésére. Januárban szexuális tartalmú képek lepték el az X-et, miután a felhasználók rájöttek, hogy az xAI Grok-ját arra kérhetik, hogy levetkőztessen képeket a közösségi médiaplatformon közzétett nőkről. Ez Franciaországban vizsgálatot indított az X ellen, Malajziában pedig ideiglenesen korlátozták a Grok használatát az országban.