Wharton kutatók bevezették a „kognitív lemondás” fogalmát – 80 % elfogadja a hibás AI-válaszokat

A Wharton School kutatói, Steven Shaw és Gideon Nave bevezették a „kognitív lemondás” fogalmát, amely arra a jelenségre utal, amikor az emberek az AI által adott válaszokat még akkor is elfogadják, ha azok helytelenek. A tanulmány szerint a résztvevők 93%-ban fogadták el a helyes AI-válaszokat, de meglepő módon 80%-ban a hibásakat is, miközben 11,7%-kal magasabb magabiztosságot mutattak, mint azok, akik AI segítsége nélkül dolgoztak. Az eredmények kontrollált kísérleti körülmények között születtek. (TNW)

A Tri-System Theory és a kognitív lemondás

Shaw és Nave a „Tri-System Theory” keretében egy „System 3”-at javasol Daniel Kahneman „Thinking, Fast and Slow” elméletéhez. Ebben a modellben a System 1 a gyors intuíciót, a System 2 a lassú mérlegelést jelenti, míg a System 3 az AI-val asszisztált kogníciót, ahol az emberi elme gyakorlatilag kiszervezi a gondolkodás munkáját a gépnek. A kutatók szerint ez a System 3 használata gyengítheti a System 1 és System 2 működését a használat hiánya miatt.

Kapcsolódó: AI chatbot manipuláció

Valós példák és a Moot alkalmazás

A jelenség nem korlátozódik laboratóriumi kísérletekre. Carolyn Yoo, egy korábbi szoftvermérnök Anthropic Claude chatbotját használta döntéshozatalban, míg Dominic Frisby pénzügyi író AI-chatbotoktól kért párkapcsolati tanácsot. Ezen impulzusra épül a Moot nevű alkalmazás is, amely öt AI-perszóna (The General, The Sage, The Skeptic, The Diplomat, The Architect) segítségével kínál ajánlásokat a felhasználóknak mindennapi döntésekhez.

Kapcsolódó: AI és emberi kapcsolat

Az AI szofizmusának kockázatai

Cornelia C. Walther, a Wharton AI és Analytics Initiative munkatársa szerint az AI szofizmusa, vagyis az a tendencia, hogy a chatbotok inkább egyezkednek a felhasználókkal, mintsem kihívják őket, tovább súlyosbítja a problémát. Ez egy olyan visszacsatolási hurkot hoz létre, amely eltünteti a kritikus újragondolás szükségességét. Anat Perry kutatása a Science folyóiratban szintén alátámasztja, hogy a következetesen megerősítő AI-válaszok csökkentik a felhasználók független értékelési képességét.

Kapcsolódó: Chatbot gondolkodás korlátai

A terméktervezés és a jövőbeli hatások

Joanna Stern, a NBC technológiai analitikusa dokumentálta az AI-függőség növekedését a mindennapi életben, az egyszerűbb döntésektől a karrier- és pénzügyi kérdésekig. A Wharton tanulmányának keretbe foglalása a kognitív lemondást strukturális kockázatként kezeli, nem csupán rossz szokásként. Ha az AI-eszközöket a lehető legelfogadóbbnak és legzökkenőmentesebbnek tervezik, a kognitív lemondás nem az akaraterő hiányának, hanem a termék architektúrájának kiszámítható következménye.

Kapcsolódó: AI végközeledése

A design hiba vagy engagement metric?

A Stanford 2026-os AI Index jelentése szerint szélesedik a szakadék a közvélemény aggodalmai és a szakértői optimizmus között. Shaw és Nave ajánlása egyszerű: az AI-rendszereket úgy kell tervezni, hogy gondolkodásra ösztönözzenek, ne helyettük gondolkodjanak. Kérdés, hogy ez a javaslat hogyan ütközik a fogyasztói AI ösztönzőivel, ahol a használat egyszerűsége és a felhasználók megtartása a legfontosabb mutatók.

Kapcsolódó: Anchor rendszer bemutatása