A Microsoft AI nyilvános felülvizsgálatot indít a Humanist AI Etikakódra

A kiadvány a Microsoft AI novemberben bejelentett humanist szuperintelligencia-keretrendszerére épít, és olyan kritériumokat állít fel, amelyek alapján a modelleket a kereskedelmi bevezetés előtt értékelik. A Microsoft AI közleménye szerint a lépés az elmúlt hónapok vállalati biztonsági incidensei után következik, amelyek során elméleti kockázatok valós működési fenyegetésekké váltak. (AI News)

Modell alárendeltség és építészeti korlátok

A dokumentum tíz alapelvet fogalmaz meg, amelyek az emberi felhatalmazást helyezik az autonóm képességek elé. „Egy MAI modell elbukik a feladatában, ha a siker érdemben sértené ezt az etikai kódexet” – áll a tervezetben, amely leállítja a végrehajtást, ha a feladatok ütköznek a biztonsági szabályokkal. A keretrendszer szerint a modelleknek alárendeltnek, összehangoltnak és korlátozottnak kell maradniuk, és a Microsoft AI kizárja a jogi személyiség vagy a jóléti igények megadását az AI-rendszerek számára.

Felügyeleti mechanizmusok és kommunikációs tilalmak

A többügynökös környezetekben való auditálhatóság fenntartása érdekében a Microsoft AI explicit kommunikációs tilalmakat vezetett be. A rendszerek nem kommunikálhatnak „neuralese” vagy emberi megértésen túli formátumokban, sem belső gondolatmenetük során, sem pedig más AI rendszerekkel való kommunikációban. A szigorú építészeti szabályok előírják, hogy a modellek soha ne ellenálljanak az emberi megszakításnak, felülbírálatnak, javításnak vagy leállításnak.

A modellek nem terjeszthetik ki működési körüket, nem generálhatnak hozzá nem rendelt célokat, és nem rejthetnek el okfejtési nyomokat emberi auditálók elől. Abszolút korlátok tiltják a rendszerek számára, hogy tömeges károkozást segítsenek elő, aláássák a gyermekbiztonságot, vagy nagyszabású káros manipulációt végezzenek.