Emberi vészféket követel az AI-rendszerekhez a Microsoft vezérigazgatója

Satya Nadella kiemelte, hogy a nem determinisztikus modellek köré erős, determinisztikus rendszert, emberi kontrollt és megbízható működési eljárásokat kell kiépíteni, iparági szabványokkal kiegészítve. (CNBC)

Belső kockázat kezelése

Nadella a közösségi médiában fejtette ki, hogy a legfejlettebb, zárt és nyílt súlyú modelleket „belső kockázatként” kell kezelni a biztonságos rendszer kiépítése érdekében. Hozzátette, hogy a legmegbízhatóbb szuperintelligens rendszer nem az lesz, amelyikben a leginkább megbízunk a modellben, hanem az, amelyik lehetővé teszi, hogy a legkevésbé bízzunk benne.

Átláthatóság elvei

A Microsoft vezérigazgatójának megjegyzései egybeesnek más vezető techipari szereplők — köztük Bill Gates, Dario Amodei, Sam Altman és Elon Musk — aggodalmaival az AI biztonsági protokolljainak hiányosságairól és a technológia gyors fejlődéséről. Többen erősebb biztosítékokat és a fejlesztések ütemezésének lassítását szorgalmazzák.

Ezzel szemben Donald Trump amerikai elnök ellenzi az amerikai AI-fejlesztések lassítását, hangsúlyozva, hogy az országnak Kína előtt kell járnia. Az ő adminisztrációja egy új, biztonságközpontú munkacsoportot is létrehozott.

Nadella szerint az AI-rendszereket az „átláthatóság elvei” mentén kell tervezni. Ez magában foglalja a modell sokféleségét, a modell tevékenységeinek ember által olvasható lábnyomát, a folyamatos rendszertesztelést, az önálló kontrollokat és auditálhatóságot, a behatárolást és az incidens-közzétételt.

A Microsoft vezérigazgatója szerint az AI-rendszereket az „átláthatóság elvei” mentén kell tervezni, beleértve a modell tevékenységeinek ember által olvasható lábnyomát és az incidens-közzétételt.