Az OpenAI új irányelveket publikált a független AI-biztonsági értékelésekhez
Az OpenAI négy prioritási területet határozott meg a harmadik fél értékeléseihez, és mély hozzáférést biztosít a képzés, értékelés és üzembe helyezés folyamataihoz. Az irányelveket a Preparedness Framework gyakorlataiba építették be, hogy elszámoltathatóvá tegyék a laborok biztonsági állításait.
Négy prioritási terület az értékelésekhez
A dokumentum célja, hogy keretet adjon a felelős AI-fejlesztésnek. A négy kulcsfontosságú terület a következő: a labor biztonsági eseteit és állításait alátámasztó bizonyítékok vizsgálata; annak felmérése, hogy az értékelések megfelelően tesztelik-e a kockázatokat; annak ellenőrzése, hogy a biztonsági mechanizmusok valós körülmények között működnek-e; valamint a képességértékelések, amelyek a „Preparedness Framework” kockázati kategóriáit fedik le, beleértve a kémiai és biológiai kockázatokat, a kiberbiztonságot és az AI önszerveződését.
A cég hangsúlyozza, hogy az értékelések hatékonyságához erős függetlenségi mechanizmusokra, tudományos szigorúságra, robusztus biztonsági gyakorlatokra és egyértelmű felelősségi körökre van szükség. A laboroknak lehetővé kell tenniük az érdemi ellenőrzést, miközben védik az érzékeny információkat. Az OpenAI és a független értékelők megosztják a felelősséget a helyes eljárásért, és közös nemzetközi szabványok szerint kell működniük a biztonsági és védelmi gyakorlatok terén.
Biztonsági állítások és esetek
Az OpenAI definiálta a „biztonsági állítás” fogalmát mint a modell vagy rendszer képességeire, viselkedésére vagy biztonsági intézkedéseire vonatkozó konkrét, bizonyítékokkal alátámasztható kijelentést. A „biztonsági eset” pedig egy strukturált érvelés, amelyet bizonyítékok támasztanak alá, és amely magyarázza, miért vannak megfelelően kezelve a modell vagy rendszer kockázatai egy meghatározott tevékenységre, például képzésre, értékelésre vagy üzembe helyezésre.
A megkülönböztetés kulcsfontosságú, mivel az értékelések célja, hogy konkrét, következményekkel járó kérdésekre adjanak választ. Az OpenAI tervei szerint több értékelést támogat párhuzamosan, különböző időszakokban, amelyek közül néhány hetekig, mások több hónapig is eltarthatnak. Ezek az értékelések általában hosszabb távúak és a bevezetés időpontjától függetlenek, az adott biztonsági állítások mélyreható vizsgálatára összpontosítva.