AI-generált cikkek miatt tiltja a nagy nyelvi modelleket a Wikipedia

Az új szabályozás szerint a nagy nyelvi modellek szerepe csupán fordításra és kisebb javításokra korlátozódik. (Wired)

Kutatási adatok és hibajelenségek

Egy 2024 augusztusi, a Princetoni Egyetem által végzett kutatás kimutatta, hogy az angol nyelvű Wikipedia közel 3000 új cikkének mintegy 5 százaléka tartalmazott jelentős mennyiségű AI-generált tartalmat. A jelek már korábban is láthatóak voltak: a ChatGPT gyakran használt gondolatjeleket és idézőjeleket, néha pedig a promptokból származó kifejezések is benne maradtak a cikkekben, például „Íme a Wikipedia cikked” típusú befejezések.

Szerkesztői gyakorlat és jövőbeli kockázatok

A Wikipedia szerkesztői kezdetben megpróbálták befolyásolni és ellenőrizni az AI által generált tartalmakat, hogy azok „elfogadhatóak és konstruktívak” legyenek, vagy eltávolították a hibás részeket. Kiszűrték az általános, dicsérő jellegű megfogalmazásokat és a hamis forrásokat. A helyzet odáig fajult, hogy a nagy nyelvi modellekkel való írás teljesen tilos lett, mivel a tartalom túl gyakran sértette a Wikipedia alapelveit.

A „Wikipedia halála” című esszé megjósolta a negatív következményeket: ahogy a szerkesztők csökkentik hozzájárulásukat az AI terjedése miatt, úgy merülhet fel a kísértés, hogy még több AI-generált tartalmat használjanak, ami egy lefelé tartó spirált indíthat el. Egy népszerű X posztban is aggodalmukat fejezték ki, hogy az AI nem a kreatív munkát segíti, hanem azt veszi át az emberektől.

A Wikipedia egy olyan gépek által írt és olvasott enciklopédiává válhat, amelyből hiányzik a kontextus és az emberi szenvedély. Az ilyen tartalom „művészetetlen és lélektelen” lenne. A Wikimedia Foundation szerint az emberi szerkesztők elkötelezettsége a megbízható enciklopédikus tudás iránt olyasmi, amit az AI nem tud pótolni.

A Google már 2018-ban képzett AI-t „Wikipedia-szerű cikkek” írására. Az AI Overviews bevezetése óta ezek a funkciók a keresési élmény részévé váltak. Az AI-ügynökök gyakran adnak meggyőző, ám téves válaszokat, amelyek felszínes ellenőrzésen átmennek. Ha maga a Wikipedia szennyeződik AI-tartalommal, nehéz lesz megállapítani, mikor tévednek az AI-k.

A Wikipedia a legközelebb áll az „univerzum enciklopédiája” fogalmához. Az okostelefonok elterjedése óta azonnali, hordozható és mindenki számára elérhető tudástár lett. Azonban felmerül a kérdés, hogy ez az információs hozzáférés milyen hatással van az emberi boldogulásra. Bár a Wikipedia valószínűleg segített vészhelyzetekben, például mérgezéses eseteknél vagy természeti katasztrófák idején, ezek az anekdoták nehezen igazolhatók.

David Runciman akadémikus szerint a legnagyobb fenyegetés a demokráciára nem emberi, hanem technológiai eredetű lehet, ami szándéktalanul alááshatja azt. H. G. Wells már korábban is felvetette egy „Örökkévaló Világenciklopédia” gondolatát, de írásai gyakran ellentmondásosak voltak. A Google már 2018-ban képzett AI-t „Wikipedia-szerű cikkek” írására.