Működőtorony-őrként kitalálja az Elias Thorne-t a chatbotok nagy része
A Cornell Egyetem kutatói mintegy 20 ezer mesterséges intelligencia által generált történetet elemezve fedezték fel, hogy a chatbotok gyakran ismétlik az Elias Thorne nevű, nem létező szereplőt.
A mesterséges intelligenciát használók körében egyre többeknek tűnt fel, hogy a különböző chatbotok meglepően hasonló neveket, foglalkozásokat és történeteket találnak ki, amikor fiktív szereplőket kell alkotniuk. A jelenség több nagy nyelvi modellnél is megfigyelhető, ezért kutatók vizsgálni kezdték, mi állhat a háttérben. (Google News HU)
A kutatás módszertana és eredményei
A Cornell Egyetem kutatói mintegy 20 ezer, mesterséges intelligencia által generált történetet elemeztek, amelyek olyan nagy nyelvi modellektől származtak, mint az OpenAI, az Anthropic vagy a Google rendszerei. A vizsgálat során észrevették, hogy a chatbotok meglepően gyakran alkotnak történeteket egy Elias Thorne nevű, valójában nem létező szereplőről, akit hol világítótoronyőrként, hol órásmesterként vagy könyvtárosként jelenítenek meg. Az elemzés szerint a történetek 88 százalékában ugyanazok a nevek és foglalkozások tértek vissza – például Elias, Mara és Elara, illetve a világítótoronyőr, az órásmester és a könyvtáros –, az Elias nevű világítótoronyőr pedig a történetek közel kétharmadában felbukkant.
A jelenség okai és terjedése
A kutatók nem találtak bizonyítékot arra, hogy az Elias Thorne név egy korábbi könyvből vagy más ismert forrásból származna. A feltételezések szerint a jelenség részben a mesterséges intelligencia biztonsági és szerzői jogi korlátozásaival függhet össze, amelyek szűkítik a modellek által felhasználható tartalmak körét, részben pedig azzal, hogy az új rendszerek gyakran korábbi AI-modellek által előállított adatokból is tanulnak, így ugyanazok az ötletek és karakterek újra meg újra tovább öröklődnek.
A név időközben már nemcsak a chatbotok válaszaiban tűnt fel: a 404 Media beszámolója szerint AI által készített könyvekben, zenelistákon, YouTube-videókban, sőt még kétes hitelességű egészségügyi útmutatókban is megjelent, amire legelsőként Daniel May szoftvermérnök hívta fel a figyelmet. A szakértők szerint mindez arra utal, hogy a mesterséges intelligencia tudásbázisa a látszat ellenére nem végtelen, ezért ha nem kap elegendő új és változatos adatot, egyre gyakrabban ismétli ugyanazokat a mintázatokat és kitalált szereplőket. A jelenséget Daniel May szoftvermérnök hozta nyilvánosságra.