Célpontokat készít elő a Helsing új AI-rendszere, a Clarity

A Helsing Berlinben mutatta be a Clarity nevű „agentalapú intelligenciaplatformját”, amely a cég sajtóközleménye szerint egy katonai egység rendelkezésére álló összes adatot feldolgoz: szenzorfolyamokat, nyílt forrású hírszerzési anyagokat, írásos jelentéseket és már használatban lévő rendszereket. Több száz speciális AI-agent köti össze ezeket a forrásokat, azonosítja a katonai erőket, létesítményeket és pozíciókat, majd az ellenséges eszközökről szóló információt emberi felülvizsgálatra előkészíti, mielőtt az adatokat a megfelelő fegyverrendszernek csomagolja — írja a The Decoder.

Az agentek tanítása és a szuverenitás

A cég szerint az agenteket valós műveleti adatokon, mesterségesen generált adatokon és szimulált környezetben tanítják. Egy közös katonai ontológia és bizonyítékbázis segítségével dolgoznak párhuzamosan. A Helsing a szuverenitást hangsúlyozza: a Clarity az ügyfél saját infrastruktúráján fut, a modelleket és a felületeket Európában fejlesztették, az adatok és a műveletek kizárólag a fegyveres erők ellenőrzése alatt maradnak. A platform követi a Modular Open Systems Approach szemléletet, megfelel a NATO-szabványoknak, és bármely gyártó hatásszerszámához csatlakoztatható.

A döntés a cég szerint továbbra is emberi kézben van: egy személy választja ki a célpontot, és minden átadást a fegyverrendszernek neki kell jóváhagynia. Célpontot csak akkor ajánl a rendszer, ha független források egyeznek, és a becslés magas bizonyossággal készíthető el. Minden döntés dokumentálva van a felelős személy nevével.

Verseny a Palantirrel

A Helsing a Palantir piacán lép be. A Palantir Maven rendszere a Pentagon és a NATO munkafolyamataiba épült be, és évek működési tapasztalatával finomodott. A Helsing az európai szállítók közül azok közé tartozik, amelyek az ukrajnai háborúból szerzett tapasztalatra hivatkozhatnak, a céget drónok szállítják. Azt viszont nem közölte, hogy a Clarity már fut-e valamelyik ügyfélnél. A német Bundeswehr jövőre kezdi el bevezetni az AI-alapú rendszereket.

Hogy ezek a rendszerek a gyakorlatban hogyan működnek, az iráni háborúból látszik. A Wall Street Journal szerint az amerikai hadsereg állítólag a Palantir Maven rendszerét és az Anthropic Claude modelljét használja arra, hogy több száz célpontot javasoljon, rangsoroljon és fegyverzetet ajánljon hozzájuk. Az első 24 órában az USA mintegy 1000 célpontot támadott, néhány nap alatt ez a szám meghaladta a 3000-et. Katonai tisztek a lap szerint belsőleg is figyelmeztetnek arra a hozzáállásra, amelyet így írnak le: „A számítógép ezt mondta, hogy csináljuk.”

Gázában még élesebb a probléma. A +972 Magazine és a Local Call vizsgálatai szerint Izrael Lavender nevű rendszere egy időben akár 37 000 palesztint jelölt meg potenciális célpontként. Az emberi felülvizsgálat célpontonként állítólag körülbelül 20 másodpercig tartott, fő feladata pedig gyakorlatilag annak megállapítása volt, hogy a személy férfi-e. Egy másik, „Hol van apa?” nevű rendszer a megjelölt személyeket a családi otthonukig követte, amelyeket aztán gyakran éjszaka támadtak.

Több forrás összevetése sem nyújt biztos védelmet a tévedések ellen, ezt mutatja egy nemrég történt eset. A CNN szerint az amerikai hadsereg majdnem megszállt egy kínai hajót, mert egy chatbot egy hírszerzési jelentésben hamisan azt állította, hogy a hajó nukleáris fegyverprogram alkatrészeit szállítja. A nyílt és a minősített adatok összekeverése után a rakományt tévesen azonosította. A katonák már készen álltak a fedélzetre szállásra, a repülőgépek is levegőben voltak, amikor a hibát az akció előtt pár perccel észrevették.

Az AI-generált információk ellenőrzésére nem voltak egységes szabályok, a fiatalabb elemzők pedig különösen kritika nélkül bíztak az eszközökben. Egy forrás szerint „az AI-val gyorsabban jutsz el egy rossz ötletig”.