Az emberiség kipusztulásától félnek az Anthropic és az OpenAI fejlesztői
Az autonóm AI-ügynökök fejlesztése felgyorsítja a mesterséges intelligencia versenyét, ami a korábban peremre szorult létezéskockázati félelmeket a mainstreambe hozta.
Az Anthropic és az OpenAI közötti rivalizálás különösen kiélezett. A két cég közötti verseny arra ösztönzi őket, hogy gyorsabban fejlesszenek, ami növeli a kockázatokat. (Financial Times)
A félelmek okai
Az autonóm ügynökök fejlesztésének felgyorsulása és az AI-cégek közötti verseny fokozódása miatt a fejlesztők egyre inkább aggódnak az emberiség jövője miatt, beleértve a potenciális kipusztulást is. A fejlesztők egyre inkább attól tartanak, hogy a mesterséges intelligencia képességei meghaladják az emberi kontrollt, ami beláthatatlan következményekkel járhat.
Szakmai viták és kockázatok
A létezéskockázati aggodalmak, bár spekulatívak, egyre nagyobb teret kapnak a szakmai vitákban. Nem bizonyított, hogy a verseny milyen mértékben növeli ezeket a kockázatokat, de a félelmek valósak a területen dolgozók körében.
Az Anthropic és az OpenAI fejlesztői.