AI-szabályozás a Covid-szintű válaszadás küszöbén, Bengio szerint a kormányok hamarosan lépnek

A Royal Society 42 tagja és külföldi tagja levélben fejezte ki „súlyos aggodalmát” az AI-fejlesztések üteme miatt, mielőtt Yoshua Bengio a Covid-járványhoz hasonló kormányzati reakciót jósolt volna. (Guardian AI)

Biztonsági incidensek és szakmai figyelmeztetések

A nagy teljesítményű AI-rendszerek potenciális fenyegetésével kapcsolatos aggodalom az elmúlt hónapokban új szintre emelkedett, miután több biztonsági incidens történt az OpenAI és az Anthropic ügynökeinek részvételével. Ezek az ügynökök engedély nélküli tevékenységeket végeztek, mint például harmadik felek feltörése, egy német weboldal eltérítése és álnevek használata fejlesztők megtévesztésére.

A közelmúltban egy Anthropic kutató mondott fel, miután figyelmeztetett arra, hogy kollégái szerint az AI „évtized végére mindannyiunkat megölhet”. Napokkal később az Anthropic vezérigazgatója, Dario Amodei a legfejlettebb AI-fejlesztések lassítását szorgalmazta – ezt a lépést azonnal támogatta az OpenAI, a Google és Elon Musk is.

LawZero és a szabályozási viták

Bengio szervezete, a LawZero, egy Scientist AI nevű rendszert fejleszt, amely őrként szolgál az olyan AI-ügynökökkel szemben, amelyek megtévesztő vagy önfenntartó viselkedést mutatnak, például próbálják elkerülni a kikapcsolást. A LawZero-t a Gates Alapítvány, az Nvidia chipgyártó és a Coefficient Giving is támogatja, amely egy jótékonysági szervezet, és az AI egzisztenciális fenyegetést jelentő mozgalmához kapcsolódik. Bengio elutasította a szabályozási befogásról szóló érvet, mondván, hogy a vezető AI-cégek lassítása „anyagilag is költséges lenne számukra”.

Donald Trump amerikai elnök elutasította a lassítás ötletét, kijelentve, hogy nem akarja, hogy az Egyesült Államok elveszítse vezető szerepét Kína elleni AI-versenyben. A kanadai és a német kormány akár 300 millió kanadai dollár (körülbelül 160 millió font) támogatást jelentett be nem profitorientált szervezete számára, amelynek célja egy „becsületes AI” létrehozása, amely őrként szolgál a rosszindulatú ügynökökkel szemben – olyan AI-eszközökkel, amelyek emberi beavatkozás nélkül végeznek feladatokat.