Közel 70 százalék aggódik az AI-deepfake-ek választási kockázata miatt

Egy hamis kép terjedt el a Facebookon Bianca Motley Broomról, College Park, Georgia polgármesteréről, aki egy bárban csókolózott egy férfival, aki nem volt a férje. Bár a kép hamis volt, több ezer ember látta, mire kiderült az igazság. „Ez szomorú tükre annak, hol tartunk a demokráciánkban és a politikai diskurzusunkban” — mondta Motley Broom. „Ez a beidegződött sztereotípiákat is erősíti a vezető pozícióban lévő nőkkel szemben.” (Guardian AI)

Hat évvel ezelőtt egy politikai ellenfélnek még képszerkesztő szoftverekhez kellett értenie egy politikus kompromittáló képének meghamisításához. Ma már csak egy számítógép és egy prompt kell az AI-képgenerátorokhoz. A deepfake-ek és az AI által vezérelt félretájékoztatás komoly aggodalomra ad okot a törvényhozók, aktivisták és a közvélemény körében. Egy június közepén végzett felmérés szerint a válaszadók 71%-a aggódik az AI-generált deepfake-ek és a választási félretájékoztatás miatt, míg kétharmaduk attól tart, hogy az AI-t nők szexuális zaklatására használhatják — írja a The Guardian.

A közvélemény aggodalma

„Az eredmények azt mutatják, hogy az amerikaiak jobban aggódnak az AI deepfake-ekben, választási félretájékoztatásban, valamint nők és gyermekek szexuális zaklatásában való felhasználása miatt, mint annak hatása miatt a munkahelyekre vagy a gazdaságra” — mondta Allyson Kapin, a Rad Campaign alapítója és a Women Who Tech társalapítója. A Trump-adminisztráció is előszeretettel alkalmaz AI-képeket.

Januárban a Fehér Ház hivatalos X-fiókján egy digitálisan manipulált képet tettek közzé Nekima Levy Armstrongról, akit egy templomi istentiszteletet megzavaró tüntetéssel kapcsolatban tartóztattak le. Egy kép, amelyen egy DHS ügynök nyugodtan kíséri, úgy lett manipulálva, hogy könnyezőnek tűnjön, és a bőrszíne is sötétebb lett. Kaelan Dorr, a Fehér Ház kommunikációs igazgatóhelyettese később „méme-ként” írta le a képet.

Februárban Zohran Mamdami, New York polgármesterének hamis képei is elkezdtek terjedni egy „paródia” fiókról az X-en, hamisan ábrázolva őt és anyját Jeffrey Epstein pénzember társaságában. A Google SynthID eszközével a Reuters cáfolta a képeket, de addigra más fiókok már hitelesként terjesztették őket, összeesküvés-elméleteket táplálva.

Jelentős aggodalommal a potenciális gazdasági következményekkel kapcsolatban, a deepfake képek nők vagy gyermekek szexuális zaklatására, vagy választások befolyásolására való felhasználása iránti aggodalom körülbelül három az egyhez arányban meghaladja a munkahelyekre gyakorolt hatás miatti aggodalmat, mondta Kapin. „A közvélemény mélyen aggódik” — mondta.

Törvényhozási kihívások

Raphael Warnock, Georgia demokrata szenátora egy Facebookon közzétett videóban elmondta, hogy deepfake képek keringenek online, amelyek hamisan ábrázolják őt egészségügyi problémákkal, egy karnyi unokával, akinek nincs is — és teljes hajjal, ami szerinte vicces, ha problémás is. „Ahogy ezek az eszközök egyre erősebbek lesznek, egyre nehezebb lesz megkülönböztetni a tényt a fikciótól, és már vannak rossz szereplők, akik mindent megtesznek, hogy megosszanak és összezavarjanak minket” — mondta Warnock. „Ez óriási következményekkel jár a demokráciánkra nézve.

Mi lenne, ha órákkal a választások előtt valaki létrehozna egy oldalt AI-generált képekkel, hamis történetekkel a jelöltekről — honnan fogják tudni a szavazók, mi az igaz és mi nem?”

Warnock a szenátusi demokraták egyik csoportjában van, akik politikai válaszokat dolgoznak ki a lehetséges választási befolyásolási forgatókönyvekre. Ezek közül a forgatókönyvek közül a legfontosabb: félretájékoztatás, amelyet hamisított képek vagy videók terjesztenek a közösségi médián keresztül. John Kennedy, a szenátus republikánus tagja egy törvényjavaslatot terjesztett elő, amely előírná az AI-cégeknek, hogy telepítsenek egy „kill switch”-et a rosszindulatú AI-k számára. Rand Paul szenátor megvétózta Kennedy javaslatát, „idő előtti” erőfeszítésnek nevezve azt további iparági input nélkül.

Hakeem Jeffries, a képviselőház demokrata kisebbségi vezetője a SiriusXM-en nyilatkozva sürgette az AI-szabályozást, „korlátokat” követelve „az amerikai nép védelmére a rossz szereplőkkel és a rossz magatartással szemben”, hozzátéve: „Ez magas prioritásnak kellene lennie.” Jeffries megjegyezte, hogy a republikánusok tavaly megpróbálták elfogadtatni a törvényt, amely megelőzné az államok AI-szabályozását, az omnibus One Big Beautiful Bill részeként. A módosítást a szenátus 99-1 arányban elutasította.

Az állami törvényhozások is küzdenek az AI-szabályozással, széles körű, kétpárti közfelháborodás közepette. Egyes államok rendelkeznek olyan törvényekkel, mint Tennessee Elvis Act-je, amely védi a politikusokat és a lakosokat az AI hangutánzás és a digitális hasonmás-replikáció ellen, kihasználva az állam robusztus nyilvánossági jogi védelmét, amely Nashville zenei iparának terméke. A legtöbb államban jogilag kötelezőek a tiszta nyilatkozatok, amikor egy politikai kampány AI-t használ a tisztviselők vagy jelöltek beszédeinek, megjelenésének vagy cselekedeteinek manipulálására.

Georgia nem tartozik közéjük. Motley Broom szerint politikai ellenfelei célozták meg, akik ellenezték szerepét a Georgia Municipal Association korábbi elnökeként. „Városomért dolgoztam, hogy a lehető legjobb szószólója legyek College Park nevében” — mondta Motley Broom. „És semmiképpen sem fogom hagyni, hogy internetes trollok eltántorítsanak, akik azt hiszik, hogy ennek súlya van.” Motley Broom szerint a szólásszabadság első alkotmányos védelmét figyelembe kell venni, miközben a teljesen hamis vádakkal szembeni védelem is elengedhetetlen College Park polgármesterének nyilatkozata szerint.