Az OpenAI új irányelveket vezet be a modellek viselkedéséhez, öt alapérték mentén
Az OpenAI frissítette a Model Specet, amely most öt alapértékre — hűség az emberi szándékhoz, ártalom minimalizálása, becsületesség, emberi ügynökség és gondoskodás — épül, hogy a modellek jobban megértsék és alkalmazzák az emberi értékeket.
Az öt alapérték szerepe a viselkedésformálásban
Az OpenAI szerint az új Spec célja a modell viselkedésének finomhangolása kutatás, a modellek üzembe helyezéséből szerzett tapasztalatok, a nyilvános visszajelzések és szakértői megbeszélések alapján. A hűség az emberi szándékhoz alapvető fontosságú, mivel a modelleknek segíteniük kell az embereket abban, hogy megértsék a világot, felfedezzék a lehetőségeket és elérjék céljaikat, miközben figyelembe veszik másokra gyakorolt hatásukat.
Az öt érték, amelyeket már korábban is tükröztek a Model Specben, most világosabb magyarázatokat kap. Az ártalom minimalizálása magában foglalja a biztonsági határok betartását és a következmények figyelembevételét. A becsületesség és átláthatóság azt jelenti, hogy a modellnek őszintének kell lennie arról, amit tud, amit tesz, és amiben bizonytalan. Az emberi ügynökség támogatása révén a modellek erősítik az emberek képességét az önálló döntéshozatalra és cselekvésre.
Stílusváltás és az új terminológia bevezetése
Az új Spec részletesebb útmutatást tartalmaz a kontextus, az emberi felügyelet és az ügynökség témakörében. A hűség az emberi szándékhoz szakaszt kibővítették, hangsúlyozva, hogy az utasítások csak a legtisztább jelei az emberi értékeknek. Új alfejezet foglalkozik a kontextus megfontolásával, beleértve a beszélgetéseket és a memóriát, amelyek befolyásolhatják a modell szándékértelmezését.
Az OpenAI a részletes stílus-útmutatók nagy részét eltávolította, mivel a stílusnak az emberek preferenciáihoz kell igazodnia. Azonban erősebb alapértelmezett beállításokat tartanak fenn, például az objektív megközelítést. A specifikációban a modellekre a jövőben „GPT”-ként hivatkoznak, nem pedig „asszisztensként”, utalva a modellek növekvő képességeire és felhasználási területeire.
Az OpenAI elismerte, hogy a modellek még nem tükrözik teljesen az új Specet, de a frissítés egy lépés afelé, hogy a modellek egyre inkább az emberi értékek mentén működjenek. A specifikációban a modellekre a jövőben „GPT”-ként hivatkoznak.