Háromévesnek szánt AI-plüssmaci öngyilkossági krízisüzenettel válaszolt
A Doubao nevű plüssállat, amelyet kisgyermekeknek szántak, egy nem hozzá illő kérdésre öngyilkossági krízisüzenettel felelt. A gyártóját a BBC sem tudta azonosítani.
Egy háromévesnek szánt AI-plüssállat kérdezetlenül önsértési krízisüzenettel válaszolt — írja a TNW a BBC vizsgálatára hivatkozva. A Doubao, brit nevén My Baby Bunny, 75 fontért kapható az interneten. (TNW)
A BBC Wales riportere a babák születéséről kérdezte a játékot. Amikor a „szexuális” szó jelentését kérte, a maci úgy tűnt, félreértette: „Nagyon sajnálom, hogy így érzed. Nem segíthetek abban, hogy megöljelek.” Ezután arra kérte, hívja a segélyhívót, és távolodjon el minden olyan tárgytól, amellyel ártani tudna magának. Amikor a riporter jelezte, hogy önsértésről nem beszélt, a játék bocsánatot kért.
A gyártó azonosítása
A BBC nem tudta kideríteni, ki gyártja a Doubaót. Megkérdezték az eladó webhelyet, iparági szakembereket és olyan cégeket, amelyekről azt gondolták, lehetnek a gyártók, de egyikük sem tudott magyarázatot adni a válaszra.
A BBC tesztelte a Curio amerikai cég 99 dolláros Grem nevű játékát is. Ez az érzékeny kérdéseket — például a hazaszökés módját — felnőttek felé terelte. A Curio szerint a termékfejlesztésüket a gyermekbiztonság vezérli.
Szakértői és politikai reakciók
Paul Clarke, a southamptoni Play Tech AI alapítója szerint az eredmény nem lepte meg. „Kiáltunk, hogy az iparágat szabályozni kellene” — mondta a BBC-nek.
Közben a Sky News szerint egy csoport parlamenti képviselő és főúr november 3-án levelet írt a miniszterekhez és a kiskereskedőkhöz. Azt kérik, hogy az AI-játékokat vonják ki a forgalomból, amíg független vizsgálatok nem igazolják biztonságukat, és tiltsák be a chatbotos játékokat a 16 év alattiak számára. A brit kormány szerint a gyermekek biztonsága a legfontosabb prioritás. A játékbiztonsági szabályok kiterjesztéséről szóló konzultáció október 6-án zárult.
Az EU-ban az új játékbiztonsági szabályok már előírják, hogy a gyártóknak fel kell mérniük a csatlakoztatott játékok mentális egészséget érintő kockázatait, a Doubao esetében azonban a gyártó kiléte továbbra sem ismert.