Egy gombnyomásra készült a hamis, de meggyőző AI-cikk, Goldstein figyelmeztet
Goldstein szerint egy gombnyomásra az AI képes hamis, de meggyőző tudományos cikket létrehozni, ahogy Benjamin Skuse demonstrálta az IEEE tesztjeiben.
Benjamin Skuse, szabadúszó író és alkalmazott matematikai doktor, egyetlen parancs, a „run experiment” és a „write paper” használatával generált egy teljes tanulmányt, majd azt közvetlenül a kiadói folyamatba bocsátotta.
Skuse kísérlete a hamis papírral
Eliza Strickland, az AI-beat szerkesztője szerint: „He basically hit ‘run experiment’ and ‘write paper.’ And then he didn’t do a damn thing to it.” A kísérlet azt mutatja, mennyire könnyű egy meggyőző, de hamis tudományos cikket előállítani.
Kiadók és ellenőrző rendszerek
Az IEEE emberi lektorálási folyamata és a kutatási integritás-ellenőrző programok jelenleg még tartják a lépést a szabad eszközök által generált sloppal, egy folyamatos macska-egér játékban. Goldstein szerint a fejlettebb LLM-ek már nem követik el ugyanazokat a nyilvánvaló hibákat, mint a szabad verziók, így a detektáló rendszereknek egyre kifinomultabb megoldásokat kell kidolgozniuk.
Az önkéntes WikiProject AI Cleanup alapító tagja, Ellia Lebleu elmondta, hogy csapata kevesebb emberi erőforrással és korlátozottabb eszközökkel küzd az AI-generált tartalom eltávolításáért. A Wikipédia, mint emberi tudás globális tárolója, szintén arra törekszik, hogy megőrizze a hiteles, emberi szerződésű információkat.
Harry Goldstein, az IEEE Spectrum szerkesztője, az AI Magazine novemberi véleménycikkében arra hívja fel a figyelmet, hogy a tudományos rekord integritása komoly fenyegetettségnek van kitéve – írta az IEEE Spectrum.