Keresik a módszert, hogyan lehetne lassítani az AI-fejlődést

Az AI-fejlesztések lassítása továbbra is megoldatlan rejtélynek számít, miközben a technológia potenciális veszélyei egyre nyilvánvalóbbá válnak. A kutatók különféle ötleteket vetettek fel a mesterséges intelligencia kordában tartására, a szigorúbb szabályozásoktól és a modellek belső működésének vizsgálatától kezdve egészen a GPU-kba épített követőeszközökig vagy a chip-ek ceremoniális megsemmisítéséig. (Wired)

Független értékelők és ellenőrzés

Raymond Douglas, a Torontói Egyetem kutatója és a „Pacing the Frontier, A Research Agenda” című jelentés társszerzője szerint „nem értjük igazán, mik a lehetőségeink, és mit fognak tenni”. A jelentés felhívja a figyelmet arra, hogy az AI-fejlesztések ütemének lassítása kutatási problémát igényel.

Az Anthropic egyik kutatójának figyelmeztetése, miszerint néhány éven belül az AI akár az emberiség kiirtására is képes lehet, tovább fokozta a félelmeket. Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk (SpaceXAI) és Demis Hassabis (Google DeepMind) mindannyian támogatásukról biztosították az AI-lassítás vagy -szünetel tetésének ötletét.

Az egyik gyakran felmerülő ötlet a harmadik félként működő értékelők számára biztosított nagyobb hozzáférés a modellekhez. Ezek az értékelők tesztelik a modellek képességeit, és megpróbálják provokálni a nemkívánatos viselkedést megbízható környezetben.

Geoffrey Irving, a brit AI Security Institute korábbi vezető kutatója szerint a szigorú ellenőrzések hatékonyan leállíthatnák a határterületi AI-fejlesztéseket. „A közeljövőben az ellenőrzések és auditok működnek, vagy akár kölcsönös megállapodások is” – véli Irving, hozzátéve, hogy az AI-cégek tartanak a „recursive self-improvement” (RSI) forgatókönyvtől és a „misaligned takeoff”-tól.

Számítási kapacitás és chip-ek ellenőrzése

Connor Leahy, a Control AI nonprofit szervezet vezetője szerint az ellenőrzéseknek az FBI-t vagy az NSA-t is be kellene vonniuk. Douglas szerint új kutatások javíthatnák a modellértékeléseket, például olyan módszerekkel, amelyek lehetővé teszik a modellek használatának vizsgálatát anélkül, hogy bizalmas információkat kellene felfedni. Leahy is egyetért abban, hogy több kutatásra van szükség a modellértékelés terén, valamint annak megértésében, mit is jelent valójában egy modell „igazítása” (alignment) vagy az emberi értékekhez való hozzárendelése.

Egyes szakértők szerint az AI-fejlesztés korlátozásának végső soron a szükséges számítási kapacitás (compute) ellenőrzését kellene magában foglalnia. A legfejlettebb modelleket több ezer csúcskategóriás Nvidia GPU használatával képzik hatalmas adatközpontokban. A kormányok már tettek kísérleteket ennek nyomon követésére: a 2023-as Biden-korszakbeli végrehajtási rendelet előírta a cégeknek, hogy jelentsék a bizonyos számítási küszöbérték feletti képzési futamokat.

Egy 2024. márciusi fehér könyv szerint a felhőszolgáltatók kulcsfontosságúak lehetnek, mivel rálátásuk van a nagy AI-képzési futamokra. A tanulmány javasolja a számlázási rekordok, a GPU-használat, a hálózati forgalom és az energiafogyasztás nyomon követését, mint az AI-képességek proxyját.

Nemzetközi együttműködés és szerződések

Más szakértők a chipek módosításával javasolnak módszereket a fejlett AI-fejlesztések nyomon követésére és ellenőrzésére. A RAND kutatói 2024-ben azt javasolták, hogy módosítsanak egy meglévő GPU-komponenst, amely kriptográfiailag biztosított nyilvántartást vezetne a számítási futamokról. Mások új, manipulációbiztos alkatrészeket javasolnak a chipekbe építeni, amelyek részletes információkat gyűjtenének a használatról, vagy akár „beágyazott kikapcsolókat” is tartalmaznának, amelyek távoli kriptográfiai engedélyezéshez kötnék bizonyos modellek futtatását.

A legtöbb szakértő egyetért abban, hogy a nemzetközi együttműködés kulcsfontosságú az AI-fejlesztés ellenőrzésében, mivel más országok, különösen Kína, szintén rendelkeznek a határterületi AI építésének képességével. Irving szerint „középtávon a legegyszerűbb módja a hardver növekedésének kölcsönös leállítása Kínával, egy szerződés révén”. Az Egyesült Államok már megpróbálta korlátozni a kínai AI-fejlesztést az Nvidia legerősebb chipjeinek exporttilalmával, de ez korlátozott sikert ért el.

Az Egyesült Államok és Kína valószínűleg megvitatja az AI kockázatait, amikor Hszi Csin-ping elnök ebben a hónapban az Egyesült Államokba látogat. Bár a kínai szakértők is aggódnak a gyorsan fejlődő AI által jelentett kockázatok miatt, szkeptikusak egy olyan lassítással szemben, amely Kína lemaradását eredményezné az amerikai versenytársakkal szemben.

A legújabb kutatási jelentés, a „Pacing the Frontier, A Research Agenda”, a jelenlegi AI-lassítási kihívásokat összegzi. A jelentésben felvázolt különböző technikai és szabályozási megoldások – független értékelők, hardverkövetők, chip-megsemmisítés – előnyei és korlátai még nem teljesen tisztázottak. Az Anthropic Claude modellje már a cég AI-kutatásának 26%-át végzi, és a számítási költségvetés 6%-át biztonsági munkára fordítják.