AI-detektorok növelik a bizalmatlanságot az oktatásban
A 2024–2025-ös felmérés szerint az amerikai középiskolai tanárok 43%-a használ rendszeresen AI-detektorokat, miközben a Turnitin, a GPTZero és a Pangram által közölt alacsony téves riasztási arányok független megerősítés nélkül vitathatók.
A Center for Democracy and Technology felmérése szerint 2024 és 2025 között az amerikai hatodiktól tizenkettedik évfolyamig tanító tanárok 43%-a rendszeresen használt AI-detektorokat. Egyes egyetemek, amelyek már 2023 óta használják a Turnitin eszközeit, automatikusan aktiválták az AI-detektálást. Ezek az eszközök, mint a GPTZero, a Pangram és a Turnitin saját modellje, ahelyett, hogy szövegeket hasonlítanának össze, saját AI-modellekre támaszkodva becsülik meg, hogy egy szöveg ember által íródott-e. Ez a szubjektív értékelés kevésbé megbízható, mint a szöveg-egyeztetés, és különösen megnehezítheti az angolt másodlagos nyelvként beszélő diákok helyzetét. (The Verge)
A szolgáltatók állításai és a független ellenőrzés hiánya
A Turnitin állítása szerint AI-detektora kevesebb mint 1%-ban jelöli tévesen ember által írt szöveget AI-generáltnak, míg a Pangram szerint ez az arány 10 000-ből 1. A GPTZero hasonlóan alacsony téves riasztási rátát állít. Azonban ezek az adatok a szolgáltatók saját bevallásán alapulnak, és nem függetlenek.
Valós jogi és szakmai következmények
Az AI-detektorok használata már most is magas profilú esetekben befolyásolta emberek megélhetését és hírnevét. A Minotaur kiadó 2 millió dolláros könyvmegállapodást bontott fel egy szerzővel, Jerry Faladéval, aki állítólag AI-t használt, amit ő határozottan tagad. Thierry Rignol, egy francia állampolgár pert indított a Yale ellen, miután egy professzor AI használattal vádolta egy záróvizsgán, ami elégtelenséghez és egyéves felfüggesztéshez vezetett. A per érvelése szerint az AI-felügyeleti eszközök tisztességtelenül célozzák meg a nem anyanyelvi angol beszélőket.
A Stanford Egyetem 2023-as tanulmánya kimutatta, hogy az AI-detektorok gyakrabban jelölik tévesen AI-generáltnak a nem anyanyelvi angol beszélők által írt esszéket, mint a natív beszélőkét. A detektorok hajlamosak lehetnek elfogultak lenni a neurodivergens írókkal szemben is, mivel olyan mintázatokat keresnek, mint az ismétlődő kifejezések, a túlzottan formális vagy informális hangnem, és az „obvious” nyelvi választások. Ezek a jellemzők azonban nem feltétlenül utalnak AI-használatra, hiszen egyes emberek írásstílusa is ilyen lehet.
Az OpenAI maga is leállította saját AI-író detektorát 2023-ban az alacsony pontosság miatt. Ennek ellenére az AI-írással kapcsolatos vádak továbbra is terjednek. Jack Osbourne, Ozzy Osbourne fia nemrégiben azzal vádolta Kat Tenbarge újságírót, hogy AI-t használt egy cikk megírásához, és egy AI-detektor eredményeit „bizonyítékként” mutatta be. Tenbarge visszautasította a vádakat, de Osbourne nem vonta vissza állításait.
Az AI-detektorokkal kapcsolatos bizonytalanság miatt több oktatási intézmény, köztük a Yale, a Johns Hopkins, a Vanderbilt és a Georgetown Egyetem is korlátozta vagy letiltotta ezeknek az eszközöknek a használatát. A Massachusetts Institute of Technology (MIT) is figyelmeztet, hogy „az AI-detektorok nem működnek”. Ehelyett sok iskola arra ösztönzi a tanárokat, hogy gondolják át újra a tananyagot és a feladatokat. A chicagói egyetem például azt javasolja, hogy a diákok lassítsák le az olvasást, bontsák rövidebb részekre a hosszabb írásos feladatokat, és kérjék meg őket, hogy reflektáljanak a munkájukra. A Stanford és az MIT professzoroknak azt tanácsolja, hogy tartsanak osztálytermi számonkéréseket, vagy hagyjanak teret a diákoknak az AI-használat önkéntes bejelentésére büntetés nélkül.