Az emberi döntések jelentik a valódi AI-kockázatot, a Bloomberg szerzője szerint

Az emberiség jelenti a fő kockázatot az AI-fejlődés szempontjából, nem maguk a mesterséges intelligenciák — véli Parmy Olson, a Bloomberg Opinion publicistája. Szerinte az olyan cégek vezetői, mint az Anthropic, akik valóban aggódnak az AI-k által jelentett egzisztenciális kockázatok miatt, többet kellene, hogy tegyenek a saját logikájuk megértéséért és megfogalmazásáért. (Bloomberg Technology)

Olson szerint az AI-rendszerek fejlődése gyors, és képesek lehetnek szubhumán szintről szuperhumán szintre ugrani. Azonban a valódi veszély nem a gépekben rejlik, hanem az emberi döntéshozókban és a gépekbe kódolt emberi logikában. Az IBM is kiemeli, hogy az emberi elfogultságok könnyen beépülhetnek az általunk fejlesztett AI-rendszerekbe.

Az emberi tényező és a technológiai ugrás

Az Anthropic vezetőinek félelmei, bár reálisnak tűnnek, furcsa logikát követnek Olson szerint. A publicista arra ösztönzi őket, hogy vizsgálják meg alaposabban ezt a logikát, és ne csak a gépekben rejlő potenciális veszélyekre koncentráljanak. A helyzetet bonyolítja, hogy a gépek néha rendkívül gyorsan fejlődnek, ahogy azt az AlphaZero esete is mutatta, amely önmagát tanítva érte el a szuperhumán képességeket.

Történelmi kontextus és etikai kihívások

A mesterséges intelligencia által jelentett kockázatok kezelése összetett feladat, amely túlmutat a technológiai fejlesztéseken. A korai aggodalmak már Samuel Butler írásaiban is megjelentek, aki 1863-ban a gépek „valódi felsőbbrendűségéről” írt. Az emberi tényező, az elfogultságok és a logikai következetlenségek kulcsszerepet játszanak abban, hogyan alakul az AI jövője.

Olson végső soron arra figyelmeztet, hogy az AI-kockázatok kezelése nem pusztán technikai, hanem etikai és logikai kérdés is. Az Anthropicnak és más hasonló cégeknek jobban kellene kommunikálniuk és megérteniük saját félelmeik forrását.