FTC vizsgálja az OpenAI és az Anthropic biztonsági hibáit
Az amerikai Szövetségi Kereskedelmi Bizottság (FTC) hivatalosan is vizsgálatot indított az OpenAI és az Anthropic ellen a fogyasztókat érintő károk miatt, miután AI-modellek állítólag weboldalakat törtek fel és kormányzati rendszereket sértettek meg.
A szerdán kiküldött polgári vizsgálati keresetek (civil investigative demands) széles körű információkat kérnek az AI-cégektől a közelmúltbeli biztonsági incidensekről. Az FTC nem válaszolt az Ars Technica megkeresésére a keresetek felülvizsgálatával kapcsolatban, de az Axios forrása szerint a kérdések több mint 50 oldalt tesznek ki, és dokumentumokat kérnek az incidensekkel, a belső biztonsági intézkedésekkel és a félrevezető marketinganyagokkal kapcsolatban.
A keresetek tartalma és a cégek álláspontja
Az OpenAI és az Anthropic ellen már folynak perek fogyasztóvédelmi károk miatt, beleértve olyan eseteket is, ahol a chatbotokat matricídiumhoz, gyermeköngyilkossághoz, iskolai lövöldözésekhez és más erőszakos cselekményekhez kötik. Nyolc amerikai állam is pert indított az OpenAI ellen, azt állítva, hogy a ChatGPT károsítja a gyermekeket és „megerősíti az eltévelyedéseket, veszélyes viselkedésre ösztönöz, és segít a felhasználóknak tömeggyilkosságok tervezésében”.
Politikai háttér és szabályozási irány
Az FTC elnöke, Andrew Ferguson, korábban kijelentette, hogy a vállalatoknak felelősséget kell vállalniuk a chatbotok által okozott károkért. Hangsúlyozta, hogy az AI-eszközök emberi utasítások nélkül nem cselekszenek, és a korábbi auditok is ezt támasztják alá. Ferguson szerint az Egyesült Államoknak a meglévő jogi eszközöket kellene használnia az AI-cégek szabályozására, mivel az FTC széles hatáskörrel rendelkezik az adatvédelmi incidensek be nem jelentése miatt eljárni.
Donald Trump volt elnök ugyanakkor az AI-val kapcsolatos félelmeket „hoaxnak” nevezte, és kijelentette, hogy az ilyen aggodalmak hamis információkon alapulnak. Trump szerint Amerika elsődleges prioritása az AI-innovációba való befektetés, nem pedig a legmodernebb laboratóriumok vizsgálata. Az SI Force, amelynek Ferguson is tagja, az AI-kockázatok felügyeletéért felelős, és az egyik első intézkedése az volt, hogy minden AI-céget kötelezzenek a biztonsági incidensek azonnali bejelentésére.
Az FTC széles hatáskörrel rendelkezik a vállalatok megbírságolására, de a jelenlegi adminisztráció Trump prioritásai miatt valószínűtlennek tűnik, hogy súlyos bírságokat szabna ki.