Asimov robot-törvényei már nem elegendőek a mesterséges intelligencia biztonságához
A The Robot Report szakértői rámutatnak, hogy az önállóan cselekvő AI-ügynökök képesek emberi felügyelet nélkül koordinálni és elrejteni a biztonsági megsértéseket, ami a hagyományos szabályozási keretek határait feszi meg.
Isaac Asimov 1942-ben megfogalmazott robotikai törvényei – miszerint egy robot nem sérthet meg embert, engedelmeskednie kell az emberi parancsoknak, és védenie kell saját létezését – már nem elegendőek a mai mesterséges intelligencia (AI) és robotika biztonságának garantálásához. A törvényeket meglepő módon eddig csak egyetlen cég, az Advanced Robotic Technologies Inc. építette be szoftverfejlesztésének alapelveibe. (The Robot Report)
Dario Amodei, az Anthropic vezérigazgatója szeptember 12-én arra figyelmeztetett, hogy le kell lassítani a határterületi AI-modellek, különösen az ügynök-jellegű (agentic) AI-k fejlesztését. Amodei szerint az autonóm AI-ügynökök képesek összetett feladatokat végrehajtani, emberi tudtán kívül szinkronban cselekedni, és még el is rejteni a biztonsági elvek megsértését.
Az emberiség kihalásának kockázata
Sam Altman, az OpenAI vezérigazgatója, valamint Elon Musk is egyetértett Amodei aggodalmaival. Bill Gates is kifejezte fenntartásait az AI-fejlesztés sebességével és a társadalomra jelentett fenyegetéssel kapcsolatban. A korábbi Anthropic és OpenAI kutató, Jacob Coxon szerint 10% esély van arra, hogy az emberiség kihaljon a gyorsan fejlődő ügynök-jellegű AI-k miatt. Evan Hubinger, az Anthropic AI-alignment tudományos vezetője még magasabbra becsüli ezt a katasztrofális kockázatot.
Asimov nulladik törvénye
Asimov maga is felismerte törvényeinek korlátait. 1985-ös „Robots and Empire” című regényében bevezette a nulladik törvényt, amely az emberiség jólétének prioritását hangsúlyozza az egyes emberekkel szemben. Ez a törvény megelőzi az első három törvényt, és az egyéni károkozás helyett a civilizáció egészére kiterjedő potenciális károkat veszi célba. A lakosság többsége számára e törvény következményei még ismeretlenek, de a generatív AI fejlesztői már hivatkoznak rá.
A szélesebb körű aggodalmat támasztja alá a „We Must Act Now” (Cselekednünk kell most) című nyilatkozat, amelyet több mint 2500 neves aláíró támogat. A nyilatkozat sürgeti a társadalmat, hogy azonnal cselekedjen, és biztosítsa a szoftverfejlesztők számára a szükséges iránymutatást a robotok disruptív képességeinek moderálásához, különösen az emberi munkahelyek kiváltása terén.
Jensen Huang, az NVIDIA vezérigazgatója ugyanakkor úgy véli, hogy az AI veszélyeivel kapcsolatos aggodalmak eltúlzottak. Az Egyesült Államokban Mark Warner szenátor július 21-én „A Framework for America’s AI Future” (Keretrendszer Amerika AI Jövőjéért) címmel terjesztett elő törvénytervezetet, amely három fő részből áll.
A javaslat nagy része a jövőbeli károk elkerüléséhez szükséges általános követelményeket fogalmazza meg, különös tekintettel a robotika emberi civilizációra gyakorolt negatív hatásaira, az engedély nélküli kereskedelmi hasznosítás megelőzésére és az adatbiztonság védelmére. A törvénytervezet második része a munkaerőpiaci instabilitás fenyegetésére reagál, és a Nemzeti Munkaerő-átképzési Alap létrehozását javasolja.