Nem követik a Bayes-szabályt az LLM-ek, új Stanford-módszerrel mérték

A Stanford Egyetem kutatói kidolgoztak egy új módszert az LLM-ek valószínűségi következtetéseinek belső következetlenségeinek mérésére. Az „információfeldolgozási rés” nevű technika azt vizsgálja, mennyire térnek el a modellek a Bayes-frissítések optimális eljárásától új bizonyítékok érkezésekor. A kutatást az EMNLP 2026 konferencián mutatták be. (Apple ML)

Chacha Chen és Matthew Jörke az LLM-eket információfeldolgozó szabályokként vizsgálták, és azonosították, hogy egyes frissítési megközelítések közel Bayes-követők, míg mások tanult heurisztikákat használnak.

A heurisztikák teljesítménye és a világmodellek hibái

Meglepő módon a nem-Bayes heurisztikus frissítések gyakran jobban teljesítenek a downstream feladatokban, mint az optimális Bayes-frissítések. Ez arra utal, hogy az LLM-ek világmodelljei hibásak, azaz nem tükrözik pontosan a valóságot. Az „információfeldolgozási rés” mérőszáma diagnosztikai eszközként is használható az LLM-alapú következtetési rendszerek problémáinak azonosítására.

Kutatási irányok és együttműködések

A kutatás rávilágít, hogy bár az LLM-ek lenyűgöző képességeket mutatnak, valószínűségi következtetéseik nem mindig konzisztensek vagy optimálisak. Ez a megállapítás különösen fontos az olyan területeken, mint az orvostudomány vagy a jog, ahol a pontatlan következtetések súlyos következményekkel járhatnak. A Stanford Egyetem és az Apple kutatói közösen mutatták be az eredményeket, míg Adam Goliński és Masha Fedzechkina további kísérleteket tervez a heurisztikák és a Bayes-követés közötti eltérések mélyebb megértésére.