A Midjourney nem felel meg a kaliforniai AI-átláthatósági törvénynek — bírságok indulnak

Az SB 942 követelményei a „fedezett szolgáltatókkal” szemben

A törvény „fedezett szolgáltatóként” határozza meg minden nyilvánosan elérhető generatív AI-rendszer üzemeltetőjét, amelynek több mint egymillió havi felhasználója van Kaliforniában. A pontos felhasználószám-meghatározás és a „nyilvánosan elérhető Kaliforniában” kifejezés definíciója a szolgáltatók értelmezésére marad, mivel a törvény nem nevesített technikai szabványt és nem adott ki végrehajtási tanácsadót a legfőbb ügyészségtől. A kötelezettségek ma lépnek életbe.

Három fő követelmény a szolgáltatóknak

Az első követelmény egy ingyenes, nyilvános detektáló eszköz, amely fiók létrehozása nélkül is hozzáférhető. Ez lehetővé teszi bárki számára, hogy ellenőrizze, egy adott kép, videó vagy hanganyagot az adott szolgáltató AI-rendszere generált-e, vagy lényegesen módosított-e. Az eszköznek támogatnia kell a fájlfeltöltést és az URL-küldést is, valamint API-t kell biztosítania programozott hozzáféréshez. Az OpenAI májusi, C2PA és SynthID kettős bevezetésével párhuzamosan elindított [openai.com/verify](https://openai.com/verify) eszköze megfelel ennek a követelménynek a ChatGPT kimenetei esetében, de csak az OpenAI saját rendszerei által generált képeket képes ellenőrizni.

A második követelmény egy látható, ember által olvasható „AI-generált” címke hozzáadásának lehetősége, amely állandó vagy rendkívül nehezen eltávolítható formátumban jelenik meg. A harmadik, géppel olvasható származási metaadatokat (machine-readable provenance metadata) ír elő, amely automatikusan és alapértelmezetten tartalmazza a szolgáltató nevét, a rendszer nevét és verziószámát, valamint a létrehozás időbélyegét. A törvény a C2PA iparági szabványt említi, összhangban az EU AI Act 50. cikkével.

Bírságok és végrehajtás

A kaliforniai legfőbb ügyészség felelős az SB 942 végrehajtásáért, de a városi ügyészségek és megyei tanácsadók is indíthatnak polgári pereket. A bírságok gyorsan halmozódnak: minden hiányosság külön vétséget jelent, és minden nem-megfelelési nap külön kihágásnak számít. A Vorp Labs szerint egyetlen hiányosság 30 napos nem-megfelelés esetén akár 150 000 dolláros expozíciót is jelenthet, az ügyvédi költségeken felül.

A törvény leginkább a nyílt forráskódú modell-ökoszisztémát érinti a 96 órás engedély-visszavonási szabállyal. Ha egy harmadik féltől licencelt AI-rendszer módosítása technikai lehetetlenné teszi a megfelelőséget, a szolgáltatónak 96 órán belül vissza kell vonnia az engedélyt. Ez arra hivatott, hogy megakadályozza a szolgáltatókat abban, hogy a származási követelmények eltávolításával kibújjanak a felelősség alól.

Midjourney: nem-megfelelő eszköz

A Midjourney, amely 2023 óta tagja a C2PA-t fejlesztő Content Authenticity Initiative-nek, jelenleg nem rendelkezik a törvény által előírt vízjellel vagy géppel olvasható metaadatokkal. A Discordon vagy webes felületen generált képek nem tartalmaznak C2PA tartalomhitelesítőket. A cég nem tett közzé nyilvános nyilatkozatot a törvénnyel kapcsolatos terveiről vagy a C2PA implementáció ütemtervéről.