Chatbotok használata rontja a hamis hírek felismerését a tanulmány szerint
A chatbotok használata kezdetben 21%-kal növeli a hamis hírek felismerésének pontosságát, de négy hét elteltével a felhasználók 15%-kal rosszabbul teljesítenek a mesterséges intelligencia nélkül – derül ki az MIT Media Lab kutatásából.
A mesterséges intelligencia (AI) alapú chatbotok hasznosnak bizonyulhatnak a hírek követésében, ám egy új tanulmány rávilágít ennek lehetséges hátrányaira. A Pattie Maes és az MIT Media Lab kutatói által végzett vizsgálatban résztvevők, akik hírek és képpárokat értékeltek négy héten keresztül, kezdetben 21%-kal pontosabban tudták megkülönböztetni a valós és a hamis híreket, ha chatbot segítette őket. Azonban a tanulmány végére ez a képességük 15%-kal romlott AI nélkülözve a kutatás elejéhez képest – annak ellenére, hogy nagyjából a negyedük úgy érezte, javult a teljesítménye.
Az AI-függőség paradoxona
Az eredmények az „AI-függőség paradoxonára” világítanak rá, amelyet más területeken, például az orvostudományban is megfigyeltek már. „A felhasználók izgatottá válnak ezekkel a varázslatos LLM-ekkel kapcsolatban, de elfelejtik, hogy ezek csupán statisztikai modellek, amelyek a következő tokent jósolják meg egy sorozatban” – nyilatkozta Anku Rani, a média- és tudományok doktori hallgatója és a tanulmány egyik vezető szerzője, Valdemar Danryval, az MIT MAS doktori hallgatójával és az SM ’23 végzettjével együtt.
A tanulás és a sebesség közötti kompromisszum
A kutatók azt is megállapították, hogy bizonyos AI-stílusok erősebb független teljesítményt társítottak később, még akkor is, ha kezdetben lassították a felhasználókat. „Azok az AI-k, amelyek direkt válaszokat adnak, nagyobb valószínűséggel támasztanak ki a felhasználóra, míg azok, amelyek szókratészi kérdezéssel élnek, jobban bevonják az embereket az igazság önálló megkülönböztetésének megtanulásába” – mondta Danry. Hozzátette: „Ez azonban egyértelműen a sebesség és az erőfeszítés közötti kompromisszum.”
A kutatás, amelynek eredményei előnyomtatott formában jelentek meg, arra utal, hogy bár a chatbotok gyors segítséget nyújthatnak, a kritikai gondolkodás hosszú távú fejlesztéséhez tudatos tervezésre van szükség az AI-eszközök kialakításában. A kutatók szerint a direkt válaszokat adó rendszerek helyett a szókratészi megközelítést alkalmazó modellek jobban elősegíthetik a felhasználók önálló ítélőképességének fejlődését.
A tanulmányban a résztvevők teljesítményét a hamis hírek felismerésében mérték. A négy hét elteltével a mesterséges intelligencia nélkül dolgozó csoport tagjai 15%-kal rosszabbul teljesítettek, mint a tanulmány kezdetén. Körülbelül a résztvevők negyede azonban úgy érezte, hogy javult a képessége, annak ellenére, hogy a valós teljesítménye csökkent.
A kutatás eredményei az MIT Technology Review-ban jelentek meg. A tanulmányban a kutatók megfigyelték, hogy a direkt válaszokat adó AI-k nagyobb függőséget okoznak, míg a szókratészi kérdezést alkalmazó rendszerek jobban segítik a tanulást, de lassabb kezdeti teljesítményt eredményeznek. Ez a sebesség és az erőfeszítés közötti egyensúlyt hangsúlyozza.