AI-csalás eszközöket tanítanak TikTokon és YouTube-on, miközben a detektorok 99,6%-ban tévednek

Az AI-generált szövegek kiszűrésére kifejlesztett eszközök hatékonysága aggasztóan alacsony. TikTokon és YouTube-on már olyan oktatóvideók terjednek, amelyek a „humaniser” és „autotyper” eszközökkel segítenek a diákoknak elkerülni a lebukást. Ezek az eszközök vagy átírják az AI-generált szöveget, hogy ne tűnjön robotikusnak, vagy órákon át csepegtetik a szavakat a dokumentumba, szimulálva egy valódi írásfolyamatot – írja a The Register. (TNW)

A helyzetet tovább bonyolítja, hogy egyes cégek, köztük a Grammarly (amelyet a Superhuman birtokol) és a GPTZero, egyszerre kínálnak AI-detektáló és AI-szöveget generáló vagy „humanizáló” megoldásokat. A Grammarly „authorship” ellenőrzője ugyan képes kiszűrni az AI-nyomokat, de az alkalmazás maga is képes szöveget generálni és átírni azt. A GPTZero, amely eredetileg egy Princetoni szakdolgozatból indult, másodpercek alatt képes teljes dolgozatokat írni, idézetekkel együtt.

Kapcsolódó: AI-eszköz lebukott könyvrecenzióban

Detektorok hatékonysága megkérdőjeleződött

Az University of Florida kutatói öt népszerű AI-szövegdetektort teszteltek, és akár 99,6%-os hamis-negatív arányt is kimutattak. Ez azt jelenti, hogy a detektorok szinte képtelenek kiszűrni az AI-generált szövegeket, és egyetlen szókincs-módosítás elegendő lehet a legtöbbjük megtévesztésére. Ráadásul a detektorok gyakran adnak hamis pozitív eredményeket is, különösen a nem anyanyelvi angol beszélők esetében, ami komoly problémát jelenthet az iskoláknak, ha ezekre az eszközökre alapozzák a fegyelmi döntéseket.

Kapcsolódó: YouTube AI címke

Megoldási kísérletek az oktatásban

Az intézmények válaszlépései széles skálán mozognak. A Harvardon a professzorok visszatérnek a szóbeli és papír alapú vizsgákhoz, amelyeket egy chatbot nem tud helyettük elvégezni. Mások drasztikusabb intézkedéseket alkalmaznak: India a nemzeti orvosi egyetemi felvételi vizsga feltételezett kiszivárgása után több napra blokkolta a Telegramot, hogy megakadályozza a csalást. Ez a lépés azonban a digitális jogok csoportjai szerint aránytalan volt, és része egy szélesebb körű tendenciának, amelyben a kormányok durva eszközökkel próbálják megfékezni az AI visszaéléseit.

Kapcsolódó: YouTube deepfake felismerés hírességeknél

Az AI-iparág belső dilemmái

Az AI-technológiát fejlesztők is aggódnak a helyzet miatt. Jack Clark, az Anthropic társalapítója szerint az iparágnak „van gázpedálja, de nincs fékpedálja”, és sürgette a fejlett AI-modellek fejlesztésének koordinált lassítását. Ugyanakkor a Grammarly képviselője, Jenny Maxwell szerint az AI eltagadása a diákok elől „oktatási elhanyagolás”, mivel a munkahelyen úgyis használni fogják. A detektálás és az elkerülés közötti versenyfutás belátható időn belül nem hozhat tartós megoldást, és a valódi kérdés az, hogy mire is valók valójában az iskolai osztályzatok.

Kapcsolódó: YouTube deepfake védelem 18+ számára

Az AI nem teremtette meg ezt a problémát, de lehetetlenné tette, hogy tovább figyelmen kívül hagyjuk. A GPTZero másodpercek alatt képes teljes dolgozatokat írni, idézetekkel együtt.

Kapcsolódó: Google Flow AI-videó klónok