AI-orvosok már most is jobbak a doki-AI csapatoknál – állítja a JAMA
Az autonóm AI hamarosan felülmúlja az orvos-AI párosokat a klinikai következtetésekben, állítja egy friss JAMA-közlemény. A szerzők szerint a szabályozóknak nem szabad erőltetniük a „human-in-the-loop” követelményt.
A cikk vezető szerzője, Ezekiel Emanuel, a Pennsylvaniai Egyetem bioetikusa, aki Obama egészségügyi reformjának egyik kidolgozója volt, ami súlyt ad az amerikai egészségpolitikai álláspontjának. A társszerző Neal Khosla, az AI-alapú telemedicinával foglalkozó Curai Health vezérigazgatója, akinek apja, Vinod Khosla, az OpenAI és a Curai Health befektetője. (The Decoder)
Két szerzőnek így közvetlen haszna származhat a cikk által támogatott jövőképtől. Ez az álláspont ellentmond az olyan orvosi csoportoknak, mint az American Medical Association és az American College of Physicians, amelyek szerint az AI-nak támogatnia kell az orvosokat, nem helyettesíteni őket. Robert Wachter orvosi professzor „az orvostudomány gazdasági osztályának” nevezi az AI-központú ellátást.
Kutatási eredmények és előrejelzések
A JAMA szerzői vitatottnak tartják ezt a rangsorolást, és két érvvel támasztják alá állításukat. Az első a kutatásokra vonatkozik: a frissen készült tanulmányok többségében az AI önmagában is felveszi a versenyt vagy felülmúlja az orvosokat az orvosi érvelés öt alapvető feladatában: anamnézis felvétele, diagnózis felállítása, tesztek kiválasztása, irányelvek szerinti kezelés és krónikus betegségek kezelése.
A Google beszélgetőrendszere, az AMIE, szimulált betegbeszélgetések során szinte minden kategóriában jobban teljesített, mint az alapellátó orvosok. 377 komplex eset vizsgálata során a ChatGPT o3 60 százalékban nevezte meg elsőként a helyes diagnózist, míg 20 belgyógyász esetében ez csak 15,9 százalék volt. A Microsoft diagnosztikai rendszere költséghatékonyan, nagyjából négyszer gyakrabban állapította meg a helyes diagnózist, mint az orvosok.
Az AI-indukálta készségvesztés veszélye
A szerzők a korábbi, ellentmondó eredményeket vagy elavultnak, vagy módszertanilag gyengének minősítik, részben azért, mert nem vették figyelembe a legjobb modelleket. Második érvük egy előrejelzés a jövőbeli tendenciákról: a modellek gyorsan fejlődnek, miközben az orvosok készségei csökkenhetnek az AI használata révén, amit egy, a vastagbél-tükrözésekről szóló Lancet-tanulmány is sugall.
Amint a gép egyértelműen előnybe kerül, az ellenőrzést végző orvos a biztonsági hálóból a hibák forrásává válhat. Egy, valós betegesetekkel végzett vizsgálatban a GPT-4 önmagában 92 százalékos pontosságot ért el a diagnosztikai érvelésben, míg azonos modellel dolgozó orvosok csupán 76 százalékot. A szerzők egy meta-analízisre hivatkoznak, amely 106 kísérletet vizsgált, és arra jutott, hogy amikor az ember jobb, a kombináció segít, de ha az AI jobb, az emberi beavatkozás rontja az eredményt.
A szabályozás átgondolása
Ebből a cikk levonja a fő üzenetet: az olyan irányelvek rögzítése, amelyek előírják az orvos végső döntését, olyan ellátási formát konzerválhatnak, amely hamarosan elavul. A szerzők 2030-ra várják, hogy az autonóm AI alkalmas lesz néhány, vagy akár sok kognitív feladat elvégzésére. Ezért sürgetik a felelősség, a finanszírozás, a szabályozás és az orvosképzés átgondolását már most.
Korlátok és kockázatok
A szerzők elismerik, hogy állításaiknak vannak korlátai. Szinte az összes bizonyíték szimulációkból származik, nem valós betegellátásból, és az ember és a modell közötti információátadás gyenge pontnak számít. A fizikai beavatkozások, mint a sebészet, a szülés vagy a vastagbél-tükrözés, egyelőre az embereknél maradnak a robotika jelenlegi korlátai miatt.
Emellett az autonóm rendszerek olyan hibákat produkálhatnak, mint a hallucinációk, internetkimaradások vagy kibertámadások, amelyek orvosoknál nem fordulnak elő. Ezeket a kockázatokat a magasabb pontossággal szemben kell mérlegelni. A tanulmányt a Journal of the American Medical Association (JAMA) közölte.