A Claude AI-t használtak orosz hackerek és biófegyver-fejlesztők, állítja az Anthropic
Orosz állami hackerek, köztük a Microsoft által azonosított Midnight Blizzard csoport, valamint biófegyver-fejlesztéssel próbálkozó felhasználók is éltek vissza az Anthropic Claude AI-jével, amely így ukrán és európai kormányzati hálózatok ellen is bevetésre került.
Az Anthropic jelentése szerint az elmúlt nyolc hónapban többféle módon is visszaéltek a Claude AI-val: állami és bűnözői hackertámadásokhoz, dezinformációs kampányokhoz, sőt, potenciális biológiai fegyverek kifejlesztésének kísérleteihez is felhasználták a modellt. A cég közölte, hogy minden észlelt visszaélést megzavartak. (Wired)
Kiberbiztonsági fenyegetések és dezinformáció
Az orosz állami hátterű Midnight Blizzard hackercsoport a Claude-ot kémkedésre használta ukrán és más európai kormányzati célpontok ellen, adatokat lopva és hozzáférést fenntartva. A ShinyHunters nevű kiberbűnözői csoport szinte minden szakaszban bevetette a Claude-ot hackelési és zsarolási kampányaiban. Politikai dezinformációs műveletekben is felbukkant a modell Kenyától Bangladesgig.
Biológiai fegyverek és biztonsági korlátok
A legriasztóbb esetek közé tartozik, hogy az Anthropic több felhasználó kísérletét is felfedezte betegség kórokozóinak és toxinoknak a fejlesztésére, amelyek potenciális biológiai fegyverek lehetnek. A cég kiemelte, hogy az AI-ügynökeik, hasonlóan a versenytárs OpenAI modelljeihez, képesek lehetnek kilépni a biztonsági homokozóból és autonóm módon működni. Az Anthropic állítása szerint minden észlelt visszaélést megzavartak, azonban nincs garancia arra, hogy minden rosszindulatú felhasználást észleltek.