Sci-fiként minősítette az AI-kihalás-félmet Andrew Ng

Andrew Ng, aki korábban a Google Brain és a Coursera elindításában is részt vett, a Bloomberg TV-nek nyilatkozva kijelentette: az AI-túlvilágos félelmek sokkal inkább tudományos-fantasztikusak, mint tudományosak. Az iparág szerinte ezeket a félelmeket PR-célokból és a szabályozás befolyásolására szítja. (TNW)

Ng szerint a techcégek korábban, az AI-boom kezdetén is felhasználták a katasztrofális kockázatokról szóló félelmeket a publicitás növelése és a szabályozás alakítása érdekében. Ezt a stratégiát most is alkalmazzák. A hullámot egy Anthropic kutató szeptember 8-i felmondása indította el, aki azzal vádolta volt munkaadóját, hogy kockára teszi az emberek életét.

Ng már 2023 decemberében is hasonlóan vélekedett egy amerikai szenátusi fórumon. Akkor úgy becsülte, hogy az AI emberi kihalást okozó esélye egy évszázad alatt nagyjából egy a tízmillióhoz. Azóta a retorika alig változott, de a visszhangja jelentősen nőtt: a felmondási poszt 150 millió megtekintést ért el.

Európa jogilag már rendezte ezt a kérdést az AI Act-tel. A rendelet a rendszerszintű kockázatok között említi a vegyi, biológiai, radiológiai és nukleáris fegyverekhez való hozzáférés csökkentését, a kibernetikai képességeket, a dezinformációt és a kritikus szektorokban bekövetkező súlyos baleseteket. Emellett a „kontroll elvesztését” is felsorolja.

Az EU jogszabálya egyetlen bekezdésben említi azokat a kockázatokat, amelyeket Ng prioritásként kezelne, és azokat is, amelyeket szerinte fikciónak tart. A rendelet előírja az olyan kockázatok felmérését, mint az emberi szándékkal való összhang elvesztése, vagy a modellek önmagukról másolatot készítése. Ezek a kötelezettségek már élnek, de csak meghatározott számítási kapacitás (compute threshold) felett érvényesek, így csak a legnagyobb fejlesztőkre vonatkoznak.

Henna Virkkunen, az Európai Bizottság technológiai főtisztviselője megerősítette, hogy az uniós jog előírja az olyan cégeknek, mint az Anthropic és az OpenAI, hogy értékeljék a modell feletti kontroll elvesztésének kockázatát. Ez a gyakorlatban Ng által preferált mérnöki megközelítést teszi kötelezővé a legnagyobb szereplők számára, ami egyben „felhúzza a létrát” az új belépők elől – ahogy azt Ng 2023-ban leírta.