Az OpenAI és az Anthropic közös biztonsági ígéretet tesz a mesterséges intelligencia lassítására
Az OpenAI vezérigazgatója, Sam Altman bejelentette, hogy a cég is megadja a külső értékelőknek a dolgozói szintű hozzáférést, egy nappal azután, hogy az Anthropic vezére, Dario Amodei a mesterséges intelligencia fejlesztésének lassítását kérte.
Elon Musk, az xAI vezérigazgatója is csatlakozott a véleményhez, röviden annyit posztolva: „Dario-nak igaza van.” Amodei szombati esszéjében arra kérte a határterületen dolgozó laboratóriumokat, hogy engedjék be a külső csapatokat az irodáikba, hogy azok belülről ellenőrizhessék a biztonsági munkát. Az Anthropic saját verziója asztalokat, belépőkártyákat, céges laptopokat biztosít az értékelőknek, és jogot ad nekik a vizsgálataik publikálására. (TNW)
Közös elkötelezettség és washingtoni kérések
Altman egy Twitter-bejegyzésben közölte, hogy egyetért Amodei nézetével, miszerint „lépést kell tartanunk a határral”. Az OpenAI vezérigazgatója nagyszerű ötletnek nevezte a dolgozói szintű hozzáférést biztosító független értékelőket, és megerősítette, hogy az OpenAI is hasonló lépéseket tesz, további részleteket pedig hamarosan megosztanak. Hozzátette, hogy az AI fejlesztésének ütemezése az elmúlt hetekben az OpenAI egyik fő témája volt.
Amodei emellett szűkített mentességet kért Washingtonból, hogy a versenytársak biztonsági témákban folytathassanak megbeszéléseket anélkül, hogy maguk a beszélgetések jogi problémát jelentenének. Javaslata szerint a kormányoknak nem kellene részt venniük ezekben a megbeszélésekben, csupán engedélyezniük kellene őket. Két nagy laboratórium, az OpenAI és az Anthropic, egy napon belül nyilvánosan is megállapodott egy közös elkötelezettségben, ami Amodei háromlépéses tervének első lépcsőfoka.
Európai szabályozási környezet
Európában azonban nincs ilyen mentesség. Brüsszel 2004-ben, az 1/2003-as rendelet hatálybalépésével megszüntette az egyedi mentességek adását. Ehelyett az EU 2023-ban felülvizsgálta horizontális együttműködési iránymutatásait, amelyek a fenntarthatósági megállapodásokra vonatkozóan tartalmaznak egy „puha” safe harbour-t, amennyiben azok hat feltételnek megfelelnek.
Az iránymutatások kitérnek a szabványosításra és a riválisok közötti információcsere fejezeteire is, ami közel áll ahhoz, amit Amodei Amerikától kér. Az EU-ban azonban nincs hasonló fejezet a biztonsági szabványokra, és senki sem kérte még egy ilyen létrehozását.