ÉlőUtoljára: 2 perceMa: 12
Biztonságfrissítve: 06:15

Gyerekeket is felnőttnek sorolhatnak a beszédalapú AI-modellek, és a hiba észrevétlen marad

A vizsgált modellek a válaszok 2,5–42,5 százalékában 13 év felettinek sorolták a gyerekeket, és minden válaszoló modell néhány 5–11 éves gyereket felnőttnek minősített.

Gyerekeket is felnőttnek sorolhatnak a beszédalapú AI-modellek, és a hiba észrevétlen marad
Fotó: Jason Rosewell / Unsplash
forrás: arXiv·AI Forradalom szerk.·
Megosztás

A gyermekbiztonság attól függ, hogy az AI-rendszerek fel tudják-e ismerni a kiskorú felhasználókat. A kisgyermekek azonban inkább beszélnek, mint gépelnek, ezért az életkort a gyakorlatban hangból kell megbecsülni. Erre a feladatra vizsgálta a Christopher M. Stewart nevéhez köthető kutatás három hangalapú nagy nyelvi modellt, öt vizsgálatban, két beszédkorpuszon, 13 év alatti gyerekeken — írja az arXiv-preprint.

A vizsgált hangválaszok egy részében a modellek a gyerekeket 13 év felettinek minősítették. Minden olyan modell, amely egyáltalán válaszolt, az 5–11 éves gyerekek egy részét 18 év felettinek sorolta.

Három hibamód, amely nem jelez magától

A mérések közben a kutatók három különböző hibát azonosítottak. Az egyik kliens-könyvtár csendben kétszer kódolta a hangmintákat, ettől az egyik modell az 5–10 éves gyerekeket harmincas és negyvenes éveikben járónak minősítette, kitalált indoklásokkal. Egy másik modell végpontját egy utódmodell váltotta fel, amely szinte minden életkorral kapcsolatos kérdést visszautasított, és egyáltalán nem adott becsült kort. A harmadik modell küszöbértékre adott válaszai pedig ellentmondtak saját numerikus becsléseinek.

A szerzők szerint a hibák egyike sem járt figyelmeztetéssel, hibakóddal vagy a kimenet formátumának változásával, így a szokásos monitorozáson simán átcsúsznának. Ugyanaz a hangminta is kaphatott 13 év alatti és 18 év feletti becslést.

Mit jelent ez az értékelésben

A kutatás következtetése szerint az életkor-ellenőrzésre vonatkozó gyermekbiztonsági állításokat nem a modell, hanem a teljes folyamat szintjén kell értékelni. A szerzők ezért olyan jelentési gyakorlatokat is leírnak, amelyekkel az ilyen hibák felderíthetővé válnának. A munka lektorálás nélküli arXiv-preprint.

tetszett a cikk? oszd meg →
Megosztás

Tetszik az oldal? Támogasd a fejlesztést

Az AI Forradalom egy automatizált pipeline: napi adatgyűjtés, LLM-feldolgozás és infrastruktúra fenntartása valódi költségekkel jár. Ha értékesnek találod a tömör, naprakész AI-összefoglalókat, egy kávé sokat segít.

☕ Támogatom