Új alapítvány fejleszti az AI-szabványokat — az OpenAI is beszállt

Az OpenAI alapító tagja lett az Appia Foundationnek, amelynek célja nyílt, moduláris specifikációk kidolgozása a fejlett mesterséges intelligencia (AI) rendszerek értékeléséhez. A Linux Foundation által támogatott szervezet nemzetközi szabványokat ültet át gyakorlati értékelési kritériumokká az AI teljes értékláncában.

A kezdeményezés hiányzó bizalmi réteget hoz létre, amely lehetővé teszi harmadik felek számára a szabványoknak való megfelelés ellenőrzését. Ez világosabb és újrafelhasználhatóbb bizonyítékokat eredményez a modellek, infrastruktúrák és alkalmazások fejlesztése során, függetlenül azok szervezetétől. Az Appia Foundation munkája egy közös technikai nyelvet teremt, amely segíti a nemzeti és nemzetközi intézményeket egymás munkájának elfogadásában.

Kapcsolódó: AI-biztonsági intézet fiatalokért

Közös szabványok az AI jövőjéért

Az OpenAI szerint ez az erőfeszítés fontos lépés a fejlett AI-rendszerekhez szükséges intézmények, szabványok és értékelési gyakorlatok erősítésében. A vállalat nemrégiben publikált, a határterületi AI demokratikus kormányzásáról szóló útmutatója egy tartós amerikai keretrendszert, a Center for AI Standards and Innovation (CAISI) megerősítését, valamint szélesebb körű kormányzati ellenálló képesség stratégiát szorgalmaz. A nemzeti kapacitásnak és a nemzetközi együttműködésnek erősítenie kell egymást, hogy a nemzetek közösen dolgozhassanak ki kompatibilis biztonsági kereteket és koordinált válaszokat az incidensekre.

Kapcsolódó: Frontier Governance Framework

Gyakorlati értékelés és együttműködés

A szabványoknak hiteles értékelési gyakorlaton és technikai szigoron kell alapulniuk. Az OpenAI egy megosztott playbookot tett közzé a megbízható harmadik féltől származó értékelésekhez, amely részletezi a tesztelt rendszert, az alkalmazott módszereket és az eredmények validálásához szükséges ellenőrzéseket. A vállalat már gyakorlatba is ültette ezeket az elveket tesztelési partnerségek révén az Egyesült Államokbeli US CAISI-vel és az Egyesült Királyságbeli UK AISI-vel, amelyek munkája konkrét javításokat eredményezett a rendszereikben.

Kapcsolódó: AI-biztonság támogatása

Ezek a gyakorlatok kiegészítik az OpenAI szélesebb körű biztonsági infrastruktúráját, beleértve a Felkészültségi Keretrendszerét és a Határterületi Kormányzási Keretrendszerét. Az Appia Foundation célja, hogy ezeket a gyakorlatokat interoperábilissá tegye a szervezetek, joghatóságok és az ellátási lánc között.

Kapcsolódó: AGI alapelvek

Az OpenAI már számos szabványügyi és előszabványosítási erőfeszítésben részt vesz, többek között az ISO/IEC JTC 1/SC 42 bizottságban, a NIST által vezetett AI Konzorciumban, valamint a Frontier Model Forum és az Agentic Artificial Intelligence Foundation megalapításában. Céljuk, hogy a határterületi fejlesztésekből származó tanulságokat nyílt, technikailag megalapozott gyakorlatokká alakítsák át, amelyeket kormányok, vállalatok és független értékelők használhatnak joghatóságokon átívelően.

Kapcsolódó: AI-oktatás támogatása iskolákban