A Google DeepMind új intézete vitatja az általános mesterséges intelligenciát (AGI)
A Google DeepMind elindította a DeepMind Institute-ot (DMI), amely az általános mesterséges intelligencia (AGI) kutatására és vitájára fókuszál. Igazgatói Shane Legg, Demis Hassabis és James Manyika.
Az intézet elsőként négy tanulmányt tett közzé: „The case for reasoning transparency” (Rohin Shah és Anca Dragan), „Economic policy for AGI” (Julian Jacobs és Alex Imas), „Principles for a new utopianism” (Stephen Cave), valamint „A framework for frontier AI and the dawning of a new age” (Demis Hassabis). (TNW)
Az első esszék
A Julian Jacobs és Alex Imas nevéhez fűződő „Economic policy for AGI” című esszé 11 gazdaságpolitikai javaslatot értékel. A kutatók felméréseket és 51 közgazdász által generált AI-ügynököket használtak. A tanulmány szerint „egyetlen kezdeményezés sem válasz mindenre”.
A legkisebb „bánat” válaszként három forgatókönyvhöz illesztettek intézkedéseket: enyhe zavarok esetén kibővített munkanélküli-biztosítást, szélesebb körű kereseti adókedvezményt és munkáltató által finanszírozott átképzést; mérsékelt elmozdulás esetén a kereseti adókedvezményt negatív jövedelemadóvá alakítanák; a munka és a tőke szétválása esetén pedig egyetemes alapjövedelem-biztosítékot javasolnak, ha a munka GDP-ből való részesedése tartósan csökken.
A felmérésben az amerikaiak 85%-a támogatta az államilag finanszírozott átképzést, 72%-a a munkanélküli-biztosítást, míg az egyetemes alapjövedelem-biztosítékra 54% szavazott. Az egyetemes alapjövedelem-biztosíték kapta a legmagasabb, 76,3-as pontszámot az ügynöki képességek terén a 11 javaslat közül, míg megvalósíthatósága 33,1 volt, ami a szövetségi munkahelygarancia után a második legalacsonyabb érték — közölte a The Next Web.
AGI definíció és kockázatok
A DMI általános definíciója szerint az AGI egy olyan rendszer, amely az emberi agy minden kognitív képességét mutatja. Bár a jelenlegi rendszerek még alapvető feladatokban is elbuknak, az intézet szerint „ezek a hiányosságok hamarosan bezáródnak”. Főbb aggályként említik a kiberbiztonságot, a bioriskeket, valamint az „önmagát fejlesztő rendszerek feletti kontroll elvesztésének lehetőségét”.
Shane Legg, a Google DeepMind társalapítója és vezető AGI-kutatója szerint az AI képességeinek nem szabad meghaladniuk a biztonsági ellenőrzéseket. Legg „érdekesnek” és „megfontolandónak” nevezte az Anthropic vezérigazgatójának, Dario Amodeinek a felvetését a fejlett modellek kiadásának lassításáról, nem pedig teljes leállításáról. Legg továbbra is „kényelmesen” tartja magát ahhoz a jóslatához, hogy 2028-ra 50%-os esélye van a „minimális” AGI elérésének — írja a The Next Web.