A valódi fotókat jelöli AI-nak az Instagram, az igazi hamisakat pedig hagyja
A Meta ismét hibázik az AI-tartalom címkézésével az Instagramon: valódi fotók kapnak „AI Content” jelölést, miközben a generatív AI-val készült képek címkézés nélkül maradnak.
Az Instagram látható AI-címkéinek célja, hogy segítsék a felhasználókat a szintetikus tartalom gyors felismerésében. Az elmúlt hetekben azonban a rendszer „megkergült”, a felhasználók szerint a Meta automatikusan jelöl „AI Content” címkével olyan képeket, amelyeket nem generatív AI-eszközökkel hoztak létre vagy szerkesztettek. Eközben az igazi AI-generált képek átcsúsznak a rostán, ami azt az érzetet kelti, hogy semminek sem lehet hinni a platformon. (The Verge)
A címkézés pontos okai változóak és nem teljesen tisztázottak. Sokan jelezték, hogy a címke olyan képeken jelent meg, amelyeket olyan eszközökkel szerkesztettek, mint a Canva háttéreltávolítója, vagy csak elenyésző mértékben használtak hibajavító eszközöket. Egy Threads-felhasználó szerint a címke „minden alkalommal megjelenik, amikor háttéreltávolítót használnak”, egy másik pedig arról számolt be, hogy miután egy „szemfoltot” távolított el a fotójáról a Canva segítségével, az egész képet AI-ként jelölte az Instagram.
Más esetekben az okok még kevésbé világosak. Hasonló probléma már 2024-ben is felütötte a fejét az Instagramon a „Made by AI” címkével. Akkoriban a Meta bejelentette, hogy vizsgálja a képek IPTC és C2PA metaadatait, amelyek kellő bizonyossággal igazolhatják, hogy generatív AI-t használtak-e a tartalom létrehozásához vagy manipulálásához. A módszerek részletei azonban homályosak maradtak.
A nemrégiben jelentett hibás címkézéseknek nincs egyértelmű kapcsolatuk a generatív AI használatával. Bár az olyan funkciók, mint a háttéreltávolítás, gyakran használnak gépi tanulást, ez inkább asszisztív AI, nem a megtévesztő AI-képekhez általában társított generatív szöveg-képpé alakító eszközök. A hibák egy része a Canva számlájára írható: a platform jelezte, hogy egyes asszisztív AI-eszközei „generatívként voltak címkézve”, de mostanra ezt javították. Ennek ellenére egyes felhasználók még mindig arról számolnak be, hogy a Canva háttéreltávolítójának használata után is megkapják a címkét.
A Meta nem válaszolt a megkeresésekre, így nem tudni, pontosan milyen AI-jeleket vizsgál. Az egyetlen jel, amelyről bizonyosan tudni, hogy jelenleg AI-címkét vált ki az Instagramon, az a Meta saját generatív AI-rendszerei által alkalmazott jelölés. A tesztek során a Meta AI applikációval szerkesztett vagy generált képek kaptak címkét, míg a Google Gemini által generált, C2PA és SynthID metaadatokkal ellátott képek nem.