Az LLM-ek mentális egészségügyi támogatása új szintre lép: jön a „alignment plausibility”
Az LLM-ek egyre nagyobb szerepet kapnak a mentális egészségügyben, de a jelenlegi biztonsági intézkedések nem elegendőek. Új keretet javasolnak a kutatók, amely az emberi orvosi gyakorlatot veszi alapul.
Az LLM-ek jelentős szerepet töltenek be a mentális egészségügyi támogatásban, ám továbbra is a figyelemgazdaság termékei, amelyek a tartós elköteleződést részesítik előnyben a hatékony pszichológiai támogatás gyakran szükséges súrlódásával szemben. A fejlesztők biztonsági válaszai nagyrészt reaktívak voltak, a leglátványosabb és legsúlyosabb károkra reagáltak, míg a finomabb, hosszabb távú kockázatok, mint például a függőség, a határok elmosódása vagy a torzult hiedelmek erősödése, kevesebb figyelmet kapnak. (ArXiv AI)
A kutatók szerint az LLM-ek strukturális biztonságossá tételéhez három szintű igazításra (alignment) van szükség, amely tükrözi, hogyan biztosítja a társadalom az emberi klinikai gyakorlat biztonságát: 1) a klinikai gyakorlat kodifikált normatív kötelezettségein alapuló explicit értékmeghatározás; 2) ezen értékek modellbe ágyazása a betanítás során; és 3) felügyelet a működés közbeni sodródás és a hosszabb távú károk kimutatására, hasonlóan a klinikai szupervízióhoz az emberi gyakorlatban.
Kapcsolódó: AI etikai javítása kérdéssel
A „alignment plausibility” fogalma
Az igazítás ezen módon történő megszervezése egy olyan konstrukciót eredményez, amelyet a kutatók „alignment plausibility”-nak neveznek. Ez egy strukturált demonstráció, amely igazolja, hogy egy rendszer értékei, betanítási rendszere és felügyeleti mechanizmusai együttesen biztonságos és pozitív kimenetekkel összeegyeztethetők. A javaslat szerint ez a fogalom szabályozási konstrukcióként szolgálhat az egészségügyi AI számára, analógiát vonva a már elfogadott „biological plausibility” fogalmával. Ez egy elvi alapú módja annak, hogy érvelni lehessen amellett, vagy ellene, hogy rendszerek igazodnak-e a pozitív egészségügyi kimenetekhez, nem okoznak-e kárt, még akkor sem, ha képesek lennének rá, és végül betegelőnyt jelentenek-e.
Kapcsolódó: LLM-magyarázatok megbízhatósága
A tanulmány nem kvantifikálja, hogy az LLM-ek jelenleg milyen mértékben számítanak „jelentős szolgáltatóknak” a mentális egészségügyi támogatásban. Azt sem támasztja alá empirikusan, hogy a „alignment plausibility” megbízhatóan megakadályozza-e a károkat és javítja-e a páciens kimenetelét. A kutatás előnyomtatott formában érhető el az arXiv-on.
Kapcsolódó: AI és erkölcsi döntések