Nyílt levél háború az AI-fejlesztésről: nyílt vs. zárt modellek

Két ellentétes nézetű nyílt levél rázta meg az AI-fejlesztés körüli vitákat az elmúlt hetekben. A „Open Weights and American AI Leadership” nevű kezdeményezést a Microsoft karolta fel, és 235 AI-céget gyűjtött maga köré, köztük a Nvidiát, az Amazont, a Y Combinatort, a Linux Foundationt, és később az OpenAI-t is. A levél egyértelműen az amerikai kormány esetleges szigorításai ellen fogalmaz meg érveket, amelyek a nyílt súlyú modellek betiltására vagy korlátozására irányulnának biztonsági aggályok miatt. (Simon Willison)

A levél aláírói között nem szerepel az Anthropic, amely három nappal később publikálta saját válaszát, „Our position on open-weights models” címmel. A cég vezérigazgatója, Dario Amodei aggodalmát fejezte ki amiatt, hogy tekintélyelvű rezsimű országok „az Egyesült Államoknál erősebb AI-modelleket” építhetnek, és a modellek „visszaélhetők kibertámadások vagy biológiai támadások végrehajtására”. Amodei felszólított az ipari méretű desztillációs műveletek „felszámolására”, ugyanakkor hangsúlyozta, hogy az Anthropic „soha nem szorgalmazott nyílt súlyú modellek betiltását”.

A nyílt modellek biztonsági érvei

A Microsoft által támogatott levél szerint a kizárólag zárt modellekre támaszkodni nem feltétlenül biztonságosabb, mivel ezek is feltörhetők, visszaélhetnek velük, vagy olyan hibákat produkálhatnak, amelyeket kívülről nem lehet észlelni. A fejlett AI-képességek néhány szereplő kezében való koncentrációja növeli a kockázatot, csökkenti a versenyt, és kritikus technológiát szűk körben tart. Ezzel szemben a nyílt súlyú modellek szélesebb kutatói és fejlesztői közösség számára teszik lehetővé a viselkedésük vizsgálatát, a sebezhetőségek azonosítását és a fejlesztésüket.

Meglepő módon a levél támogatja a „desztillációt”, vagyis azt a technikát, amikor modellek más modellek kimeneteit használják fel a képzéshez. A dokumentum szerint a politikai döntéshozóknak óvatosnak kell lenniük, hogy ne tévesszék össze a modellfejlesztés legitim technikáit a visszaélésekkel. A desztillációt széles körben alkalmazott módszernek tartják a modellek fejlesztésére, értékelésére és validálására, amely a nyílt forráskódú szoftvermozgalommal hasonlóan a meglévő technológiákból való tanulás és építkezés hagyományát követi.

A lassítás követelése

Ezt követően, július 28-án jelent meg a „Pacing the Frontier” című levél, amelyet „1324 határterületi AI-vállalat munkatársai” írtak alá, köztük olyan nevekkel, mint Jakub Pachocki (Chief Scientist, OpenAI), Ilya Sutskever (Safe Superintelligence Inc, korábban OpenAI), Dario Amodei (Anthropic) és Jack Clark (Anthropic). Üzenetük lényege: „kérjük az Egyesült Államok kormányát, hogy támogasson egy nemzetközi erőfeszítést a technikai és irányítási eszközök kidolgozására, amelyek szükségesek az automatizált AI-fejlesztés határának szándékos ütemezéséhez.”

A kutatók aggodalmát a heves verseny, valamint az automatizált AI-kutatás által felgyorsított AI-fejlesztés okozza. Tekintettel arra, hogy az Anthropic kódjának 80%-át a Claude Code-dal állítja elő, az OpenAI 20%-kal csökkentette kiszolgálási költségeit, és a Kimi K3 egy saját architektúrára épülő nano modell kiszolgálására tervezett chipet, érthető, hogy a kockázatokat egyre komolyabban veszik.