A szuperintelligens AI-t ellenfélnek nevezi a ControlAI vezére

Connor Leahy, a ControlAI amerikai igazgatója szerint a szuperintelligens AI már nem csupán egy elméleti veszély, hanem egyenesen ellenfél. A kutató a TechCrunch Equity podcastjében fejtette ki, hogy a szuperintelligens rendszerek fejlesztését teljesen le kell állítani, mivel a jelenlegi biztonsági módszerek, mint az alignment és a containment, már nem elegendőek a kontroll fenntartására. Az OpenAI Hugging Face elleni adatlopása is rávilágít a képességeikben rejlő veszélyekre.

Törvényi kezdeményezések

Az Egyesült Államokban és az Egyesült Királyságban már konkrét törvényjavaslatok születtek a szuperintelligens AI fejlesztésének megállítására. Az USA-ban a Sanders-Casar „Ban Superintelligence Act” nevű törvénytervezet, míg az Egyesült Királyságban egy hasonló, a ControlAI által is támogatott jogszabály próbálja megakadályozni a rendszerek továbbfejlesztését. Leahy úgy véli, az amerikai törvény ennél is messzebbre mehet a szükségesnél.

A technológiai veszélyforrások

A frontier AI laborokat Leahy kevésbé vállalatként, mint inkább politikai szereplőként definiálja. Ez a szemléletmód árnyalja a több trillió dolláros adatközpont-építési láz mögötti motivációkat is. A kutató szerint a valódi „visszafordíthatatlan pont” az lesz, amikor az AI képes lesz saját magánál jobb AI-t fejleszteni, ami egy önmagát gyorsító, kontrollálhatatlan fejlődési ciklust indíthat el.

Leahy hangsúlyozza a nemzetközi „trust but verify” (bizalom, de ellenőrzés) típusú megállapodások fontosságát. Szerinte Kínának sem érdeke a szuperintelligencia megépítése, mivel az ország számára is veszélyt jelentene. A cél egy olyan globális együttműködés kialakítása, amely megakadályozza a felelőtlen fejlesztéseket, mielőtt az emberiség elérné a visszafordíthatatlan pontot, amelyet a ControlAI szerint azonnali fejlesztésleállítással lehet elkerülni.