Chatbotok 5-13%-ban adnak veszélyes válaszokat egészségügyi kérdésekre
A chatbotok 5–13%-ban veszélyes válaszokat adnak egészségügyi kérdésekre, és a pontosság 34,5%-ra esik, ha a felhasználók maguk keresnek — derült ki szimulációs tanulmányokból.
30–55% közötti arányban használnak felnőttek ChatGPT-t vagy más LLM-alapú chatbotot egészségügyi kérdésekre, és ez a szám növekszik — írja a The Conversation.
Egy brit felmérés szerint egyötödük a válaszadók lemondott arról, hogy szakmai orvosi tanácsot kérjen, miután chatbotot használt. A Microsoft Co-pilot 2026-os, félmillió egészségügyi beszélgetés elemzése kimutatta, hogy a kérdések egyötöde személyes tünetekre és kezelésekre vonatkozott, gyakran mások, például gyerekek vagy családtagok nevében.
Az AI-válaszok biztonsága azonban aggodalomra okot ad: 5–13%-ban veszélyes válaszokat adtak a chatbotok, amelyek komoly károkat okozhatnak a betegeknek. A laboratóriumi körülmények között a modellek 94,9%-os pontossággal válaszoltak, de amikor a felhasználók maguk kerestek ugyanazokra a klinikai forgatókönyvekre, a pontosság 34,5%-ra esett. A chatbotok mindössze 43%-ban adtak helyes irányelveket arról, hogy a felhasználók keressenek-e szakmai segítséget.
A média ez héten arról is beszámolt, hogy a 31 éves Bowen Wang februárban meghalt, miután a ChatGPT helytelen tanácsot adott epilépszia-gyógyszereinek csökkentéséről. Az esetek egyedi jellege miatt azonban a valós világbeli biztonsági adatok korlátozottak.
Mi a fő kockázat?
A felhasználók gyakran nem adnak elég részletet a promptjaikban a pontos válaszok eléréséhez. Az hatékony promptolás nehéz, különösen képzetlen felhasználók számára, és kompromisszumot igényel a részletesség és a magánszféra védelme között. Emellett a felhasználók ritkán ellenőrzik az információkat: a Google AI-összefoglalóiban megjelenő linkek mindössze 1%-át kattintják meg.
A páciensek nem mindig osztják meg orvosaikkal, hogy chatbotot használtak: a lengyel felmérésben 83%, az amerikai adatok szerint pedig 32% nem beszélt erről. Az orvosok 70%-a pozitívan vagy semlegesen tekint a chatbotok egészségügyi információk vagy döntések céljára történő használatára, de 50%uk ritkán vagy soha nem szeretné, ha betegei AI-t használnának orvosi vizsgálati eredmények értelmezéséhez.