Az emberközpontú AI-magyarázatokhoz információkeresési pszichológiát javasolnak

Az emberközpontú, magyarázható AI (HCXAI) fejlesztésekor elengedhetetlen az információkeresés pszichológiájának beépítése – állítja egy új, előnyomtatott formában elérhető tanulmány. A kutatás szerint a felhasználók nem feltétlenül keresnek magyarázatokat, hanem azt mérlegelik, hogy az adott információ milyen hasznot hoz számukra. (ArXiv AI)

Sharot és Sunstein keretrendszerét alapul véve a tanulmány háromféle várt hasznosságot azonosít: instrumentális (segít-e jobb döntést hozni?), hedón (jobban érzem magam tőle?) és kognitív (javítja-e az értelmemet?). Ezeket a hasznosságokat azonban torzíthatják a kognitív elfogultságok, mint például az illúzió a kontrollról, az automatizálási elfogultság vagy a megerősítő tendencia.

Ezek az elfogultságok kétféle hibás működéshez vezethetnek: túlzott információkereséshez, amely szétszórja a figyelmet anélkül, hogy javítaná a döntéseket, vagy elégtelen információkereséshez, amely kritikus kockázatokat és félreértéseket hagy figyelmen kívül. Az AI-rendszerek, különösen az ügynökös rendszerek esetében ez különösen éles kihívást jelent.

Az ügynökös AI-rendszerekben a magyarázatoknak nem csupán egyetlen kimenet megértését kell támogatniuk, hanem a kaszkádhatások előrejelzését, a kockázatok felmérését és a beavatkozási döntések meghozatalát is. A kutatás szerint a HCXAI-ba integrált információkeresési pszichológia egy elmozdulást szorgalmaz attól, hogy a magyarázatok elérhetőek legyenek, a keresetté váljanak.

Ez azt jelenti, hogy olyan rendszereket kell tervezni, amelyek figyelembe veszik, mikor és miért akarnak valójában a felhasználók tudni valamit. Az arXiv-on publikált tanulmány, amelynek azonosítója 2608.27464v1, arra ösztönzi a kutatókat, hogy az emberi megértés és döntéshozatal komplexitását helyezzék a magyarázható AI középpontjába.