A ChatGPT korlátozza a fegyverekről és tömegmészárlásokról szóló információkat a tinédzserek számára
A ChatGPT nem ad ki többé gyakorlati információt fegyverekről és biztonsági rendszerekről a tinédzser felhasználóknak, még akkor sem, ha a kérdés ártalmatlannak tűnik — közölte az OpenAI.
A ChatGPT szigorúbb korlátozásokat vezet be a fegyverekkel és biztonsági rendszerekkel kapcsolatos információk terén, különös tekintettel a tinédzser felhasználókra. Az OpenAI közleménye szerint a változtatások célja az erőszakkal kapcsolatos kockázatok csökkentése, és a jövőben a tömegmészárlásokról is kevesebb részletet osztanak meg minden felhasználóval. (TNW)
Az új biztonsági intézkedések a következő hetekben indulnak el. A tinédzser fiókokra vonatkozó korlátozások akkor is érvényesek, ha nincs erőszakos szándékra utaló jel. Az OpenAI több mint 200 esetben tett bejelentést a hatóságok felé a harmadik negyedévben.
Kevesebb részlet a múltbeli támadásokról
Minden felhasználó számára csökken a részletesség a múltbeli tömegmészárlásokról és az elkövetőkről szóló információkban. A ChatGPT nem fogja rekonstruálni a támadásokat, beleértve a használt fegyvereket és azok beszerzésének módját. Kerülni fogják a támadások okozta károk részletes összehasonlítását is. Ezek a korlátozások a felhasználó életkorától vagy a kérdés indítékától függetlenül érvényesek — írja az OpenAI. Az események áldozatokra és közösségekre gyakorolt hatásairól, valamint a figyelmeztető jelek felismeréséről továbbra is lehet kérdezni.
Fiók szüneteltetése és életkor-ellenőrzés
Amennyiben egy beszélgetés során az látszik, hogy valaki erőszakra vagy mások súlyos bántalmazására fixálódik, a ChatGPT automatikusan befejezheti a csevegést. Több ilyen eset után az OpenAI felfüggesztheti a fiókot. A vállalat megerősítette az életkor-becslő rendszerét, amely viselkedési jelek alapján becsüli meg, hogy a felhasználó 18 év alatti-e. A tévesen tinédzserként azonosított felnőttek a Persona nevű életkor-ellenőrző partnerükön keresztül igazolhatják életkorukat.
Szülői értesítések és jelentés
Már július óta a szülőkhöz kapcsolt fiókok esetén értesítést küldenek, ha egy tinédzser fiókot erőszakkal kapcsolatos okok miatt deaktiválnak. Az OpenAI dolgozik az értesítések kiterjesztésén azokra az esetekre is, amikor egy tinédzser fiókot ismételt erőszakkal kapcsolatos megbeszélések miatt függesztenek fel. „Az AI-rendszerekben hatékony erőszak-védelmi megoldások kifejlesztése új problémák megoldását igényli a kockázatok felismerésében és a megfelelő reagálásban” — írta az OpenAI.
Közösségi Biztonsági Jelentés
Az első Közösségi Biztonsági Jelentés 2027 elején jelenik meg, és 2026 második felét dolgozza fel. Az OpenAI hat havonta frissíti majd a jelentést, amely bemutatja, hogyan észlelik és reagálnak a biztonsági kérdésekre, anonimizált példákkal és adatokkal. Az új intézkedések kiegészítik a ChatGPT-ben augusztusban bevezetett tinédzser-biztonsági funkciókat. A Common Sense Media korábban aggályosnak találta a ChatGPT tinédzser verzióját, nyolc amerikai állam pedig pert indított az OpenAI ellen gyermekek sérelmére elkövetett károk miatt.