Az OpenAI globális AI-szabványokat sürget a biztonságos fejlődésért

Az OpenAI célja, hogy a mesterséges intelligencia (AI) fejlődése az emberiség javát szolgálja. Ezt három fő célkitűzés mentén kívánják elérni: az AI-fejlődés következő szakaszának navigálása egy automatizált AI-kutató felépítésével, tudományos és gazdasági előnyök biztosítása, valamint az egyéni felhasználók felruházása személyes AGI-val.

A vállalat szerint az automatizált AI-kutatás, beleértve az ismételt önfejlesztést (RSI), felgyorsíthatja a fejlődést, de ezt csak akkor szabad folytatni, ha a biztonság garantálható. A teljesen autonóm RSI jelenleg nem kivitelezhető, és nem szabad erőteljes biztonsági intézkedések és demokratikus felügyelet nélkül megvalósítani. Az RSI megfelelő óvatosság és gondosság nélkül az AI-fejlesztés feletti emberi ellenőrzés elvesztéséhez vezethet, ami veszélyesebb és kevésbé igazodó AI-rendszereket eredményezhet.

Az OpenAI kiemeli, hogy a határterületi AI-fejlesztés biztonsági és védelmi gyakorlataira vonatkozó nemzetközi szabványok legalább olyan fontosak lehetnek, mint maga az igazodási kutatás. Ezek a szabványok közös definíciókat teremthetnek a magas színvonalú bizonyítékokról és a műszaki biztonsági intézkedések szigorának alapjairól. A meglévő intézmények, mint a Center for AI Standards and Innovation (CAISI), állami törvények és szövetségi keretrendszerek, valamint új állami-magán partnerségek támogathatják ezeknek a szabványoknak a kidolgozását.

A nemzetközi erőfeszítésekre azért van szükség, hogy megoldják a fragmentációt, a kollektív cselekvést és az egyenlőtlen kapacitást. Az országok önálló fellépése olyan eredményeket hozhat, amelyeket egyik nemzet sem kíván.

Az RSI képes felgyorsítani az AI-kutatást, potenciálisan meghaladva a kollektív képességünket a fejlődés megértésére, a kockázatok felmérésére és az értelmes emberi felügyelet fenntartására. Az Egyesült Államoknak ezért kellene élnie azzal az erőfeszítéssel, hogy a világ országaival együttműködve globális műszaki szabványokat dolgozzon ki a határterületi AI-ra, beleértve az RSI-t is.

Az OpenAI szerint az Egyesült Államoknak élen kell járnia egy olyan kezdeményezésben, amely a világ országaival együttműködve globális műszaki szabványokat dolgoz ki a határterületi AI-ra, különös tekintettel az RSI-re. Ez a megközelítés az olyan területekről meríthet tanulságokat, mint a repülés és a pénzügy. Az ilyen szabványok nem jelentenek majd licencet, kötelező kiadás előtti felülvizsgálatot vagy jóváhagyási követelményt az AI-modellekre. A nemzeti kormányok döntik el, hogy miként építik be ezeket a szabványokat saját jogrendszerükbe.

A szabványok kidolgozása során konzultálni kell a nyílt és zárt modellfejlesztőkkel, független műszaki szakértőkkel és az akadémiai szférával. A közös szabványokat átláthatóan kell kidolgozni, és úgy kell megtervezni, hogy ne részesítsenek előnyben bizonyos vállalatokat, országokat vagy üzleti modelleket, megnehezítve az új belépők vagy a nyílt súlyú fejlesztők versenyét. A Hugging Face incidens előrevetíti azokat a kockázatokat, amelyek súlyosbodhatnak robusztus biztonsági intézkedések és igazodás nélkül.