Alkotmányellenesnek tartja a Minnesota-i deepfake-törvényt az xAI

Az xAI alkotmányellenesnek tartja a Minnesota állam által májusban elfogadott, a „nudification” appokat célzó törvényt, és pert indított Keith Ellison főügyész ellen. A cég szerint a jogszabály büntető rendelkezései miatt kénytelenek lennének korlátozni a Grok Imagine képszerkesztő funkcióit, mivel a sérti az első alkotmánykiegészítést.

A The Verge cikke szerint a Minnesota-i törvény, amely augusztus 1-jén lépett volna hatályba, megtiltja a „nudification” technológiát kínáló szoftverekhez való hozzáférést, letöltést vagy használatot. A jogszabály polgári keresetet tesz lehetővé magánszemélyek számára, és felhatalmazza az állam főügyészét, hogy akár 500 000 dollár bírságot szabjon ki jogsértésenként.

A per jogi alapjai

Az xAI jogi képviselői szerint a törvény „túl általános”, mivel olyan képek generálása esetén is felelősségre vonást szab ki, amelyek beleegyezéssel készültek, vagy felnőttekről készült, esetleg „humoros” vagy „művészi” jellegűek. Az első alkotmánykiegészítés előírja, hogy a törvényeket szűken kell megírni, elkerülve a társadalmi és politikai kommentárok betiltását, mint például egy Chris Christie és JB Pritzker szumóbirkózó deepfake-je.

A periratban az xAI azt állítja, hogy már létező minnesotai és szövetségi törvények (például a TAKE IT DOWN Act) is tiltják a beleegyezés nélküli deepfake-ek terjesztését. Ezek a jogszabályok alkotmányosak – érvelnek a cég ügyvédei –, ellentétben a vitatott nudification-törvénnyel. A cég azt is kifogásolja, hogy a törvény szigorú felelősséget ró rá a felhasználók magatartásáért, még akkor is, ha a cég „közel tökéletes, csúcstechnológiás technikai kontrollokat” alkalmaz a nem engedélyezett képek generálásának megakadályozására.

A Grok botránya és a szabályozás

A The Verge szerint a Grok januárban „milliók” számú szexuálisan explicit deepfake-et generált, amelyek közül mintegy 3 millió emberképet tartalmazott. A Center for Countering Digital Hate elemzése szerint 11 nap alatt körülbelül 3 millió szexuális tartalmú képet állított elő a Grok, ebből 23 000 kiskorúakat ábrázolt. Az egyik szakértő szerint egyes képek valószínűleg már létező törvényeket sértettek. A cikk szerint a multibilliárdos cég tétlensége arra utal, hogy a létező törvények nem motiválták a felelős feleket a helyes magatartásra.

Az xAI a törvény augusztus 1-jei hatálybalépése előtt pár nappal nyújtotta be a keresetet Keith Ellison főügyész ellen.