Majdnem háborúba sodorta az USA-t Kínával egy chatbot, állítja a Signal vezetője

Whittaker szerint a valódi, azonnali veszély a technológia gondatlan használatában rejlik. Példaként említette a CNN által jelentett esetet, amelyben egy amerikai hírszerző által használt chatbot állítólag hamis információt gyártott egy nukleáris anyagot szállító kínai hajóról, ami miatt az Egyesült Államok katonai választ készített elő. „Majdnem háborúba keveredtünk Kínával” — nyilatkozta Whittaker. „Egy olyan rendszer, amely hibás hírszerzést produkál, és majdnem háborúba sodor minket Kínával, semmilyen mércével nem tekinthető szuperintelligensnek.” (BBC)

A Signal mintegy 40–70 millió felhasználóval rendelkezik, ami a milliárdos felhasználói bázissal rendelkező WhatsApphoz képest elenyésző, de a cég híres a felhasználók magánéletének védelmére tett szigorú lépéseiről.

A Google-ellenes tiltakozás és a Project Maven

Whittaker, akit a Time magazin a mesterséges intelligencia egyik legbefolyásosabb személyiségének nevezett, korábban a Google-nél dolgozott. 2017 végén vált ismertté, amikor tiltakozott a Google és az amerikai védelmi minisztérium titkos szerződése ellen, amely drónok célzására épített volna AI-t.

Whittaker szerint ez a projekt lerövidítette volna a célpont azonosítása és a támadás elindítása közötti időt, csökkentve a megfontolás lehetőségét. Több ezer kollégájával együtt ellenállt, mondván: „Ez rossz hírszerzést és rossz adatokat fog mosni.” A Google végül elállt a szerződéstől, amit a Palantir vett át.

Whittaker a Project Maven-t hozta összefüggésbe az iráni iskolát ért amerikai rakétacsapással, amelyet szerinte a rendszer és elavult hírszerzés alapján hajtottak végre, tévesen katonai célpontnak azonosítva az iskolát.

A Palantir szerint „nincs bizonyíték arra, hogy a Palantir szoftvere hibás lett volna ebben a szörnyű tragédiában”, és hozzátették, hogy „a Palantir nem felelős az alapul szolgáló adatokért, sem a hírszerzési hiányosságok azonosításáért”. Louis Mosley, a Palantir Egyesült Királyság és Európa vezetője pedig azt nyilatkozta, hogy „mindig van ember a rendszerben, aki meghozza a végső döntést”.

Titkosítás és kormányzati nyomás

A brit kormányhoz hasonlóan más kormányok is több hozzáférést követelnek az üzenetküldő alkalmazások beszélgetéseihez, hivatkozva a nők és gyermekek védelmére. Whittaker szerint azonban a gyermekek könnyen kijátszhatnák az ilyen intézkedéseket, és a kormányzati megközelítést „a kommunikációs és információs ellenőrzés példátlan rendszerének” nevezte. Kérdésre válaszolva, hogy a Signal kivonulna-e egy olyan országból, amely titkosításának gyengítésére kényszerítené, Whittaker határozottan igent mondott: „Igen! Istenem, van gerincem.”

A Signal támogatást kap néhány női csoporttól, különösen a globális délről, akik maguk is használják az alkalmazást. Hera Hussain, a Chayn nemi erőszak elleni jótékonysági szervezet alapítója szerint „az állami megfigyelés és a kibertámadások idején a Signal a túlélés eszköze”. Ugyanakkor elismerte, hogy „bármely platformot rossz szereplők is használhatnak, és ezt az igazságot is el kell fogadnunk.”

Whittaker szerint a magánkommunikáció sokféle kártól védi meg az embereket, legyen szó bántalmazó házastársról, adatbázishoz hozzáférő rendőrtisztről vagy egy autoriter kormányról. A technológiai területen dolgozni vágyó nőknek azt tanácsolja: „Szereted csinálni? Érzel energiát, amikor egy terminál előtt ülsz? Élvezed az AI-rendszerekkel való játékot és azok meghatározását?” Majd hozzátette: „Képes vagy érdekes és nehéz környezetben navigálni, ahol nem mindenki lesz nyugodt? Mert semmi sem veszélyesebb annál, mint ha egy zsarnok előtt gyáván viselkedsz.”