AI-károkért a cégek feleljenek, ne a kód, állítja John Quiggin
Az AI-felelősségvállalás kérdésében John Quiggin, az University of Queensland közgazdászprofesszora szerint a hibákért a kódot gyártó vállalatokat kell felelősségre vonni, nem a szoftvert.
A Medicare rendszerének nemrégiben történt biztonsági megsértése, amelyet egy „AI-ügynök” követett el, éles kontrasztban áll más esetekkel, mint például a Telstra és az Optus szolgáltatáskimaradása. Előbbi esetben senki sem hibáztatta a számítógépeket, a hibákat egyértelműen a vállalatokra hárították. (Guardian AI)
A „mesterséges intelligencia” kifejezés mintegy 70 évvel ezelőtti megalkotásakor a korai számítógépeket hasonló csodálattal és aggodalommal szemlélték, mint a jelenlegi AI-ügynököket. Akkoriban az algoritmusok is próbáltak ideális párokat kiválasztani, és a hibákért a „számítógép hibázott” volt a 60-as évek megfelelője a „mentett email a spam mappába került” mondatnak.
A probléma fokozatosan eltolódott a számítógépről a rosszul megírt programokra vagy a hibásan bevitt adatokra. Az AI-ügynökök esetében is hasonló elmozdulásra van szükség. Ha egy felhasználó olyan utasítást ad, mint „keress ausztrál orvosi statisztikákat” egy olyan programban, mint a ChatGPT vagy a Claude, és ennek eredményeként a Medicare rendszere sérül, a felelősség nem a kódot terheli.
A hibát vagy az ember követte el, aki az utasítást bevitte, vagy a kódot gyártó vállalat, és őket kell felelősségre vonni a keletkezett károkért. Ha nem lehet kideríteni, ki a hibás, a felelősség közös és egyetemleges kell, hogy legyen.
A hagyományos hibakeresés korlátai
Az ügynökszoftverek problémáinak megoldása nem lesz egyszerű. A korai számítógépprogramok gyakori meghibásodása miatt a „hibakeresés” (debugging) az információs technológia alapvető részévé vált. A hibák lehettek az operációs rendszerben, magában a programban vagy az abba bevitt információban.
A modern, több százmilliárd paraméterrel rendelkező ügynöki modellek esetében azonban a hagyományos hibakeresés sokkal nehezebb. Bár utólag ki lehet deríteni, mit tett a program, lehetetlen megvizsgálni a paramétereket, hogy megértsük, miért tette azt. Ebben a kontextusban az „őrszemekkel” vagy „fékekkel” történő korlátozás ötlete rendkívül naivnak tűnik.
A felelősség átrendeződése
A legtöbb esetben az egyetlen megoldás az lesz, hogy feladják azon képességek nagy részét, amelyek az ügynököket hasznossá teszik, például az oldalakba való bejelentkezés vagy a fizetések teljesítése a felhasználó nevében. Ez nagy csapás lesz azoknak a vállalatoknak, amelyek a Szilícium-völgy „mozogj gyorsan, törj el dolgokat” és „kérj bocsánatot, ne engedélyt” etikája szerint nőttek fel.
Sokkal kényelmesebben beszélnek „hallucinációkról” és „elromlott ügynökökről”, mint a saját felelősségükről olyan programok esetében, amelyek hatalmas hibákat és valós károkat okoznak. Azonban amint az AI-vállalatokat pénzügyi következményekkel szembesítik a gondatlan hanyagságuk miatt, másfajta kalkulus lép életbe. Ahelyett, hogy arra gondolnának, „mit tehetne ez a program?”, az első kérdés az lesz: „mi sülhet el rosszul, ha futni hagyjuk?”
Az okozott károkért való felelősségre vonás valószínűleg drasztikusan lassítja majd az egyre erősebb ügynökszoftverek „hiper-skálázási” rohamát. Ez jó dolog a környezet és a gazdaság számára is. Mindez nem zárja ki az „AI” szoftverek számos ártalmatlan felhasználását, beleértve a jelentősen javított internetes keresést, a dokumentumok összefoglalását és fordítását, valamint a szoftverkódolást.
Ezek a felhasználások az új technológiákkal mindig együtt járó kiigazítási problémákkal járnak, amelyek eltörölnek néhány munkahelyet, miközben másokat teremtenek. A ChatGPT vagy a Claude használatából eredő károkért a felelősség a kódot gyártó vállalatoké marad.