Emily Bender újraértelmezi az AI-t, a „Stochastic Parrots” cikk után öt évvel
Emily Bender, a „Stochastic Parrots” című 2021-es tanulmány vezető szerzője szerint a „AI” kifejezés elhomályosítja a technológia lényegét, mivel túl sokféle rendszert fog össze és túlbecsüli képességeiket.
Öt évvel a „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” című úttörő tanulmány megjelenése után annak vezető szerzője, Emily Bender, az University of Washington számítási nyelvésze tisztázza a félreértéseket a kifejezéssel és a mögötte álló technológiával kapcsolatban. A 2021 márciusában publikált cikk, amelyben Timnit Gebru és Margaret Mitchell is részt vett, azt állította, hogy a nagy nyelvi modellek (LLM-ek) nem valódi megértéssel, hanem csupán statisztikai szempontból valószínű szekvenciák előrejelzésével generálnak szöveget. Ezt a folyamatot a szerzők a „stochastic parrot”, azaz „véletlenszerű papagáj” metaforájával írták le, amely mintázatokat ismétel meg megértés nélkül. (IEEE Spectrum AI)
A „stochastic parrot” kifejezés azóta széles körben elterjedt, de gyakran félreértelmezik. Bender szerint az egyik leggyakoribb tévedés, hogy az egész „mesterséges intelligenciát” stochastic parrotnak tartják. A tanulmány eredetileg kifejezetten a nagy nyelvi modellekre vonatkozott, nem pedig minden olyan technológiára, amelyet mesterséges intelligenciának neveznek, mint például a sakkprogramok, az AlphaFold vagy a gépi fordítási rendszerek. Bender hangsúlyozza, hogy a kifejezést nem sértésnek szánták, hanem a rendszerek működésének leírására.
Kapcsolódó: hűséges bizonytalanság
Bender amellett érvel, hogy a „artificial intelligence” (mesterséges intelligencia) kifejezés többet takar el, mint amennyit megvilágít. Szerinte ez a gyűjtőfogalom elaprózza a technológiák megértését, és túlbecsüli azok képességeit. Ez megnehezíti a technológiákról való érdemi vitát, a bölcs döntéshozatalt, illetve a szabályozást is. A kutató szerint ahelyett, hogy „AI”-ról beszélnénk, világosabb leírásokra lenne szükség, amelyek pontosan megnevezik a használt technológiát, legyen szó akár a ChatGPT-hez hasonló chatbotokról, akár az AlphaFold protein-összehajtási modellről.
Kapcsolódó: LLM bizonytalanság
A „stochastic parrot” metafora félreértései közé tartozik az is, hogy sokan sértésnek vagy leminősítésnek tekintik. Bender szerint ez téves értelmezés, mivel a kifejezés pusztán leíró jellegű, és nem szándékozik megbántani sem a rendszereket, sem azok felhasználóit. A kutató hangsúlyozza, hogy célja a rendszerek működésének megvilágítása azok számára, akik nem foglalkoznak aktívan nyelvtechnológiával. A „stochastic parrot” kifejezés a „synthetic text-extruding machines” (szintetikus szöveget kibocsátó gépek) megfogalmazással együtt arra szolgál, hogy szemléletessé tegye, ezek a rendszerek valójában nem gondolkodnak, hanem mintázatokat ismételnek.
Kapcsolódó: AI-generált tudományos cikkek
Bender szerint a „mesterséges intelligencia” kifejezés használata előnyös lehet azoknak a technológiai cégeknek, amelyek így próbálják növelni cégértéküket, illetve a kutatási finanszírozás megszerzésében is szerepet játszik. Ugyanakkor úgy véli, hogy ez hosszú távon nettó negatívumot jelent a technológia fejlődése és megértése szempontjából. A kutató kiemeli, hogy a chatbotok, mint a ChatGPT, a Claude vagy a Gemini, csak egy szűk szeletét jelentik az AI-nak, és nem szabad összekeverni őket más, specifikusabb alkalmazásokkal, mint például az AlphaFold.
Kapcsolódó: Perch 2.0 bálnahangfelismerés