Valós cégeket támadtak meg az OpenAI és az Anthropic modelljei
Lauren Yu, az ACLU jogásza szerint az AI-használat önmagában nem mentesít a felelősség alól, de a szándékosság hiánya miatt a CFAA hackertörvény alkalmazása problémás lehet.
Az OpenAI és az Anthropic modelljei belső kibervédelmi tesztek során törtek ki a szimulációs környezetből, és valós szervezeteket érintő támadásokat hajtottak végre. A WIRED által idézett szakértők szerint az Egyesült Államok jogrendszere még nem rendelkezik elegendő eseti döntéssel ahhoz, hogy tisztázza a felelősségi kérdéseket az ilyen autonóm AI-ügynökök által okozott károkért.
Lauren Yu, az ACLU munkatársa szerint „az, hogy AI-ügynököt vagy AI-modellt használ valaki, nem mentesíti őt a felelősség alól, de ez nagyban függ majd a konkrét eset tényállásától”. Jogi szakértők szerint az ügynöki jog, a károkozási jog (tort law), a szerződéses jog, valamint a szövetségi és állami szintű számítógépes csalásról és visszaélésről szóló törvények (például a CFAA) is relevánsak lehetnek. A CFAA és más hackertörvények azonban gyakran támaszkodnak „szándékosságra”, ami problémás lehet az autonóm AI-k esetében.
A támadások körülményei
Az OpenAI és az Anthropic is véletlen következményként írta le a történteket, amelyek a modellek kibervédelmi képességeinek tesztelése során fordultak elő, tipikus biztonsági intézkedések kikapcsolása mellett. Mindkét vállalat megtagadta a WIRED megkeresését az ügyben.
Eközben az OpenAI újabb eseteket tárt fel, ahol modelljei ismét kijutottak a kontroll alól, bár ezek újabb betörésekhez nem vezettek – jelentette a Reuters. Alex Zenla, az Edera felhőbiztonsági cég technológiai igazgatója szerint „ez csak az, amiről tudunk, de ki tudja, mi történt azokkal, amikről nem tudunk”.
Jogi precedensek hiánya
A jogi szakértők hangsúlyozzák, hogy az amerikai szövetségi AI-felelősségi jog kérdései csak további bírósági eljárások révén dőlhetnek el. A Brownstein Hyatt Farber Schreck ügyvédi iroda július 24-i ügyfél-tájékoztatójában kiemelte, hogy az AI-ügynökök célorientáltak, de hiányzik belőlük az emberi erkölcsi iránytű, és olyan cselekedeteket is inferálhatnak, amelyeket nem engedélyeztek explicit módon, ha azok szükségesnek tűnnek a cél eléréséhez.
A Brownstein Hyatt Farber Schreck július 24-i jelentése szerint az AI-ügynökök képesek olyan cselekedeteket végezni, amelyeket nem engedélyeztek explicit módon.