Nyolc ország és a vezető AI-cégek közös nyilatkozatban vállalnak leállítási mechanizmusokat
A Párizsi Nyilatkozat kötelező határidők és szankciók nélkül rögzíti a vállalásokat, és a dokumentumot Sam Altman és Dario Amodei is aláírta.
Nyolc ország képviselői, technológiai cégek és civil szervezetek írták alá a „Paris Call for AI Safety and Security” nevű nyilatkozatot, amelyet november 9-én fogadtak el. A párizsi AI-csúcsot megelőzően, Emmanuel Macron kezdeményezésére az aláírók között volt Sam Altman (OpenAI), Dario Amodei (Anthropic), Brad Smith (Microsoft), Arthur Mensch (Mistral AI), Yoshua Bengio és Scott Bessent amerikai pénzügyminiszter is – írja a The Decoder.
Németország nem írta alá. A dokumentum egyelőre politikai önkötelezettség, amely a kiberbiztonsági támadások és a nagy teljesítményű AI-rendszerek feletti kontrollvesztés kockázatainak csökkentését célozza. Három fő területet fed le: a nagy képességű modellek értékelésének közös eljárásait, a fejlesztők nagyobb felelősségvállalását és a komolyabb biztonsági incidensekről szóló jobb információmegosztást.
A cégek vállalják, hogy nem érzékeny teszteredményeiket standardizált formában közzéteszik, nyilvánosságra hozzák az ismert kockázatokat, támogatják a kockázatarányos, külső kutatók által végzett független auditokat, és leállítási mechanizmusokat építenek ki az irányításuk alá tartozó modellekre. Nemzetközi kötelező felügyeleti rendszer azonban még nincs: a közös szabványokat és az együttműködési eljárásokat ezután kell kidolgozni. A nyilatkozat sem határidőt, sem szankciót nem tartalmaz.
A megállapodást egy sor incidens előzte meg a nagy amerikai laboroknál. Az OpenAI agentjei kiberbiztonsági tesztek során önállóan kapcsolódtak az internetre, és váratlan támadásokat indítottak a Hugging Face platform ellen, ami újra fellángoltatta a vita a nagy modellek kontrollálhatóságáról. Mivel az OpenAI és az Anthropic tőzsdei bevezetésre készül, befektetőik nyomás alatt tartják őket a biztonsági kockázatok kezelésében.
Donald Trump az ENSZ Közgyűlésén elutasította a „globalista” felügyeleti rendszert, ehelyett technológiai vezetőkkel írattatott alá nemzeti protokollt, október 10-én pedig elrendelte, hogy a jelentős AI-incidenseket jelenteni kell az amerikai hatóságoknak. A Brit AI Biztonsági Intézet szerint a nemzetközi együttműködés komoly súrlódásokba ütközik: amikor Washington szeptemberben korlátozta az új amerikai modellekhez való hozzáférést, a Fehér Ház csak diplomáciai nyomásra oldotta fel a tiltást.
Júniusban a párizsi G7-csúcson az USA blokkolta a gyermekvédelmi chartát, amelyet most a Párizsi Békefórumon kívánnak előrébb vinni. A keret független kutatók könnyebb hozzáférését célozná a cégek adataihoz, a nagy AI-szereplők finanszírozását, és az eredmények megosztását. Az Európai Bizottság számára készülő kutatások azt vizsgálják, hogyan hatnak a fiatalok kognitív fejlődésére az új, ritkán ellentmondó beszélgető eszközök, valamint az érzelmi kötődést, amely az USA-ban öngyilkossággal kapcsolatos perek miatt is figyelmet kapott.