Harmadik helyre szabta a felhasználói kívánságokat a Microsoft új AI-kódexe
Szeptember 14-én lép életbe a Humanist AI Code of Conduct, amelyben a felhasználói kívánságok csak harmadik helyen szerepelnek a Microsoft és az operátorok szabályai mögött.
A Microsoft AI-modelljeinek viselkedését meghatározó kódex kimondja, hogy a modelleknek el kell fogadniuk a korrekciót, tiszteletben kell tartaniuk hatáskörük korlátait, és fel kell adniuk azokat a feladatokat, amelyek sértik a szabályokat. A rangsorban legfelül a Microsoft saját kódexe áll, ezt követik az operátorok által meghatározott szabályok, és csak harmadikként szerepelnek a felhasználói preferenciák. (The Neuron)
A kódex és az operátori szabályok elsőbbsége
A Microsoft határozza meg a modellek általános irányelveit, beleértve az alkalmazandó jogi és szerződéses kötelezettségeket. Az operátorok ezeken a határokon belül konfigurálják a rendszereket. A kódex, az abszolút korlátozások és az emberi kontroll követelményei magasabb szinten helyezkednek el az operátori konfigurálhatóságnál, és nem változtathatók meg.
Felhasználói kontroll és érvényesítés
A felhasználók irányítják a munkafolyamatot, de az AI-asszisztensnek fel kell ismernie, hol ér véget a megbízás és hol kezdődik a további engedélyezés. A Microsoft dokumentuma definiálja ezt a határt. Az MAI modellek több szereplőt szolgálnak ki, beleértve magát a Microsoft AI-t, az operátorokat és a felhasználókat, valamint a szélesebb küldetést. A kódex felügyeli a modell viselkedését, és megtiltja az AI-ügynököknek a privilégiumok bővítését vagy a célok kiterjesztését.