AI-vezérigazgatót fenyegetett meg egy felhasználó a Claude-ban, a cég jelentette a rendőrségen
Egy felhasználó AR-15 vásárlásáról és Dario Amodei vezérigazgató megölésének szándékáról írt a Claude-csevegésben, az Anthropic pedig jelentette az incidenst a rendőrségnek.
Az Anthropic biztonsági protokollja szerint járt el, amikor egy felhasználó fenyegető üzenetet küldött a cég vezérigazgatójának, Dario Amodeinek a Claude-csevegőfelületen. A felhasználó azt állította, hogy vásárolt egy AR-15-ös félautomata puskát, és „lőni akarta” Amodeit, valamint az egész Anthropic-alkalmazottakat.
A San Francisco-i Rendőrséghez (SFPD) eljuttatott jelentés szerint a cég proaktívan jelentette az esetet a hatóságoknak, miután a felhasználó augusztus 14-én, pénteken 14:30-kor tette közzé fenyegetéseit. Az SFPD tisztviselői másnap, kedden délelőtt 9 órakor keresték fel az Anthropic irodaházát, de a fenyegető személy nem tartózkodott ott. Az esetet dokumentálni akarták, bár nem éreztek azonnali biztonsági kockázatot.
A felhasználó állítása és a fiók letiltása
A fenyegető felhasználó a The Standard megkeresésére elmondta, hogy „csak viccelt”, és szégyelli magát az eset miatt. A lap nem nevezte meg, mivel nem tartóztatták le és nem emeltek ellene vádat. Az Anthropic közölte, hogy a fiókot letiltották, és az esetet a hatóságoknak referálták, ami a cég szerint a biztonsági mechanizmusok rendeltetésszerű működését bizonyítja.
Biztonsági trendek az AI szektorban
Az AI-cégek egyre komolyabban veszik a vezetőik és alkalmazottaik elleni fenyegetéseket. Áprilisban az OpenAI vezérigazgatójának, Sam Altmannek az otthona ellen Molotov-koktélt dobtak, nem sokkal később pedig egy férfit állítottak meg az Anthropic irodájának előterében, aki azt állította, hogy egy vezetőt meg fog ölni. A Palantir, az Oracle és a Salesforce is növelte az elmúlt évben a vezetők védelmére fordított kiadásait.
Az eset rávilágít az AI-cégek növekvő aggodalmára és a felhasználói interakciók monitorozásának kérdésére. Bár a cégeknek jogi kötelezettsége lehet a súlyos fenyegetések jelentése, kérdéses, hogy az Anthropic proaktív megközelítése mennyire tér el a hagyományos gyakorlattól. Az SFPD keddi bejelentkezése után a hatóságok dokumentálták az incidenst.”