Elpusztíthatja az emberiséget az AI, állítja a DeepMind volt biztonsági kutatója

Bilal Chughtai júliusig dolgozott az AGI-biztonságon és az illeszkedés kutatásán a Google DeepMindnál, mielőtt ezen a héten az X platformon megosztotta aggodalmait. „Nemrég mondtam fel a Google DeepMindnál, ahol az AGI-biztonságon és az illeszkedés kutatásán dolgoztam. A Google-nál első kézből tapasztaltam az AI-fejlesztést. Én is rendkívül aggódom a technológia alapértelmezett pályája miatt” — írta a volt kutató. (TNW)

A szakértő szerint a biztonságos navigáció lehetséges, de ehhez koordinációra van szükség, hogy elkerüljék az „őrült versenyt az AI-cégek között”. Chughtai hangsúlyozta, hogy a fejlesztés ütemét „olyan sebességre kellene lassítani, amit a társadalom kezelni tud”. A Google nem reagált a megkeresésre.

Kollégák aggodalmai és a kockázatbecslések

Chughtai figyelmeztetése illeszkedik az elmúlt időszak aggodalmaihoz. Jacob Coxon, aki az OpenAI-nál töltött három év után szeptember 9-én hagyta ott az Anthropicot, azt állította, hogy a laborok az önmagát javító szuperintelligencia felé versenyeznek, és az életünkkel játszanak. Rivális cégek kutatói, köztük az Anthropic munkatársa, Evan Hubinger is, nyilvánosan támogatták Coxont. Hubinger belső becslései szerint a kihalás kockázata ebben az évtizedben meghaladja a 10%-ot, amit Geoffrey Hinton is reálisnak tartott.

A politikai és katonai válaszok

Emil Michael, a Pentagon technológiai vezetője a korábbi aggodalmakat „doom loopnak”, azaz végzetes huroknak nevezte, és úgy vélte, a piac és a kormányzati szereplők képesek kezelni a helyzetet anélkül, hogy bármit is leállítanának. Donald Trump múlt héten elutasította az érvelést, és ezt telefonon is megerősítette Jensen Huangnak. A szenátusban John Thune, Ted Cruz és Amy Klobuchar tárgyalnak egy törvényjavaslatról, amely kötelezettséget róna az AI-fejlesztőkre, hogy gondoskodjanak a katasztrofális kockázatok elkerüléséről.

Chughtai posztja nem hordoz intézményi súlyt, de az, hogy pontosan azzal a problémával foglalkozott a DeepMindnál, amelyre most figyelmeztet, és két hónapot várt a megszólalással, jelentőséggel bír. A vita jelenleg a szenátusi törvényjavaslat köré kristályosodik, ahol John Thune, Ted Cruz és Amy Klobuchar tárgyalnak a kötelezettségekről.