Új AI-detektorokat dobott piacra a Pangram, 99,2%-os pontossággal szűri a képeket

A Pangram bemutatta két új AI-detektorát: az Image 1.0-t a képek, az Image Flash 1.0-t pedig a videók elemzésére. A cég állítása szerint a modellek közel tökéletes eredményeket érnek el saját tesztjeiken, és 98,7%-os pontosságot a DF26 tudományos teljesítményteszten. Az Image 1.0 a Chrome-bővítményben, a webalkalmazásban és API-ként is elérhető, míg a Flash 1.0 a webalkalmazásban és API-ként használható. (TNW)

Az Image 1.0 99,2%-os pontossággal azonosítja a mesterséges intelligencia által generált képeket, és mindössze 0,27%-ban jelöl tévesen valódi fotókat. Saját tesztjeikben, amelyek során 100 valódi fotó AI-generált másolatát készítették el 12 vezető képgenerátorral, az Image 1.0 99,96%-os pontosságot ért el. A tesztet a Pangram maga tervezte, külső ellenőrzés nélkül.

A videók detektálásánál a Pangram a DF26 teljesítménytesztet használta, amely 2691, embereket ábrázoló klipet tartalmaz. A kutatók korábban megállapították, hogy sem az emberek, sem a vezető detektorok nem teljesítettek lényegesen jobban a véletlenszerűnél a valódi és a hamisított felvételek megkülönböztetésében. A Pangram szerint a Flash 1.0 98,7%-os eredményt ért el ezen a teljesítményteszten, ami 29 ponttal marad el a következő legjobb detektortól.

Az új modellek kisebb, akár 256 × 256 pixeles képekkel is képesek dolgozni, bár az 512 pixeles felbontás alatti eredményekhez alacsonyabb magabiztossági figyelmeztetés társul. A Pangram közölte, hogy a modelleket úgy tanították, hogy ellenálljanak a tömörítésnek, az elmosódásnak és a zajnak, amelyeket a platformok és a detektorokat kijátszani próbálók alkalmazhatnak.

A Pangram tavaly júliusban, az Image 1.0 előzetes bemutatásakor 9 millió dolláros befektetési kört zárt, amelyet a Menlo Ventures vezetett. A cég szöveges detektora már a Substack platformon is fut. Az AI-detektorok továbbra is hibázhatnak: a Pangram szöveges eszköze tévesen jelölt meg egy professzor által írt véleménycikket AI-generált tartalomként, amit a professzor vitatott. Meta saját képdetektora is gyakran elhibázta a saját generátorából származó, vágott hamisítványokat a Reuters tesztjein.