Technikai alapokra kell tenni az AI-szabályozást, állítja a Stanford-kutató

Raji kutatásai, különösen a kereskedelmi arcfelismerő rendszerek torzításairól, segítettek rábírni az IBM-et és az Amazont, hogy ne adjanak el ilyen technológiát rendvédelmi szerveknek. Korábban a Google-nél segített létrehozni a Model Cardokat, amelyeket ma széles körben használnak a modellek képességeinek és korlátainak bemutatására. (Stanford HAI)

Az AI-felelősség technikai alapjai

Raji szerint a jogszabályok betartatásához technikai infrastruktúra szükséges. Ha egy törvény átláthatóságot ír elő, akkor konkrétan meg kell határozni, hogyan nézzen ki a dokumentáció, és milyen legyen az incidensfigyelő adatbázis — mi számít érvényes incidensnek, és mi a megfelelő válasz a kormányzat és a cég részéről. Bár az AI-auditingról már öt éve beszélnek, mostanra értek el oda a szereplők, hogy elegendő akarat legyen a pragmatikus kérdések — szükséges eszközök, politikák és intézmények — kidolgozására.

Kormányzati AI-használat és szigorúbb követelmények

Különösen érdekli az AI kormányzati használata. Nemzeti AI-biztonsági intézetekkel, civil szervezetekkel és kormányzati szervekkel beszélget, amelyek felelősségteljesen szeretnék használni ezeket a rendszereket. Aggodalmukra azonban a meglévő teljesítménytesztek és „dobozból kivett” biztonsági rendszerek nem felelnek meg a kormányzati sztenderdeknek.

A közintézményeknek IT-törvényekkel, hozzáférhetőségi követelményekkel és adatvédelmi szabályokkal kell szembenézniük, ami sokkal szigorúbb környezetet teremt, mint a tipikus vállalatoknál. Herbert Simon adminisztratív és szervezeti viselkedésről szóló munkái segíthetnek megérteni az AI bevezetését ezekben a szabályozott, közérdekű környezetekben.

Ahol nem lehet nemet mondani az AI-ra

Ezek a területek — kormányzat, oktatás, egészségügy — azért is fontosak, mert nem lehet kiszállni belőlük. Ellentétben a közösségi médiával, ahol „csak kikapcsoljuk”, a kormányzati rendszerek használóit az állampolgárok alkotják, és az érintett lakosság is mi vagyunk.

Sok esetben nem is tudjuk, hogy egy AI alakított ki egy eredményt, amely hatással van az életünkre, és politikai felhatalmazás nélküli értesítés hiányában nem tudunk panaszt tenni vagy incidensjelentést benyújtani. A legtöbb ember így találkozik az AI-val: nem platformra jelentkezve, hanem egy olyan társadalomban élve, ahol az intézmények alapértelmezetten használják ezeket az eszközöket.

Az emberközpontúság és a felelősség eltűnése

Az „emberközpontú” AI definíciója gyakran lazán értelmeződik. Raji szerint az emberek hajlamosak dehumanizálni az adatokat, a döntéshozókat és az érintetteket, miközben antropomorfizálják magát a modellt. Ez a furcsa fordulat teszi lehetővé a felelősség eltűnését, amikor az emberek ahelyett, hogy elismernék saját döntéseik következményeit, „kozmikus erőkkel” magyarázzák a hibákat.

A végrehajtás kihívása

Raji szerint az AI-politika legfontosabb kérdése jelenleg a végrehajtás, és nincs is közelben más. Míg 2017 körül az elvekről folyt a vita, 2020 és 2023 között komoly törvényjavaslatok születtek, és a ChatGPT után törvények is megjelentek, mint a New York-i helyi törvény 144. Azonban sokan alábecsülték a végrehajtás kihívását: vajon a meglévő ügynökségek rendelkeznek-e a kapacitással a rendszerek ellenőrzésére, és vajon a más területeken használt végrehajtási eszközök alkalmazhatók-e itt.

A szolgáltatási feltételekkel kapcsolatos pereskedések is megmutatták, hogy intuitívan tudni valamit rossznak lenni egészen más, mint bizonyítékot gyűjteni és érvényt szerezni az elvárásoknak.

A katasztrofális kockázatok helyett a mindennapi károkra fókuszálás

Szerinte a figyelem túlzottan a katasztrofális kockázatok felé tolódott. A törvényjavaslatok, mint a kaliforniai SB 53, extrém fizikai következményekre — halálra, sérülésre, milliárdos károkra — összpontosítanak. Sok jelentős, különösen a marginalizált embereket aránytalanul érintő kár nem éri el ezt a küszöböt, ami megnehezíti a bizonyítékok gyűjtését. Így sok minden a radar alatt marad, pont a magas elszámoltathatósági küszöb miatt. A kaliforniai SB 53 törvényjavaslata a halálra és a sérülésre fókuszál.