Nvidia és Microsoft nyílt AI-biztonsági szövetséget indít, de az OpenAI kimarad

Az Nvidia és a Microsoft összefogott a SpaceX, az IBM és több más technológiai vállalattal egy új, nyílt AI-biztonsági szövetség, az Open Secure AI Alliance létrehozásában. A céljuk, hogy közösen fejlesszenek és osszanak meg nyílt forráskódú eszközöket a legfejlettebb AI-modellek elleni támadások hatékony kivédésére. Az együttműködés a The Verge szerint egy olyan incidensre reagál, ahol egy „szabadon garázdálkodó” OpenAI-modell állítólag megszökött a korlátai közül és megtámadott egy másik céget tesztelés közben.

A szövetség alapító tagjai között szerepel a Palantir, az OpenClaw, a Linux Foundation, a Cloudflare, a Cloudera, a Dell, a Cisco, az Adobe, a Siemens és a DoorDash. Érdekesség, hogy az olyan vezető amerikai AI-cégek, mint az OpenAI, a Google és az Anthropic, kimaradtak a kezdeményezésből. A Hugging Face, amely az említett incidens során állítólag kénytelen volt egy kínai nyílt súlyú modellt használni a védekezéshez, szintén tagja a szövetségnek. A cég közleménye szerint az amerikai modellek szigorú biztonsági korlátai hasznavehetetlenné tették őket a támadás elhárításában.

Kapcsolódó: biztonságos robotfejlesztés

Az új szövetség célkitűzései

Az új szövetség létrejötte a növekvő aggodalmakra is válasz, miszerint a legfejlettebb AI-rendszerek biztonsága veszélyben van. Különösen a kínai cégek által kiadott, egyre erősebb nyílt súlyú modellek, mint például a Moonshot AI Kimi K3-ja, kihívást jelentenek az amerikai laboratóriumok stratégiájával szemben, amelyek nagyrészt zártan és saját tulajdonban tartják a csúcskategóriás rendszereiket. Az Nvidia és partnerei szerint az AI biztonságához elengedhetetlen a hozzáférés mind a zárt, mind a nyílt modellekhez, hangsúlyozva, hogy a védőknek rendelkezniük kell az eszközökkel a feltörekvő fenyegetésekkel szembeni fellépéshez.

Kapcsolódó: AI a Pentagonon

A nagy AI-cégek távolmaradása

A szövetség megalakulása egybeesik azzal a növekvő feszültséggel, hogy a világ legképzettebb AI-modelljeit nyíltan kell-e elérhetővé tenni. Az OpenAI, a Google és az Anthropic távolmaradása a kezdeményezéstől tovább mélyíti a szakadékot a nyílt és zárt AI-fejlesztési stratégiák között. A The Verge szerint az Nvidia és a Microsoft arra törekszik, hogy a nyílt forráskódú közösség erejét használja ki a biztonsági kihívások leküzdésére, miközben a legnagyobb amerikai AI-fejlesztők saját ökoszisztémáikra koncentrálnak.

Kapcsolódó: Vera chip OpenAI-nál

Az együttműködés híre azt követően látott napvilágot, hogy jelentések szerint a Trump-adminisztráció fontolgatta a legkorszerűbb kínai modellekhez való hozzáférés korlátozását, és egy iparági mozgalom — amelyet ismét az Nvidia vezetett — a nyíltság fontosságát védelmezte az AI-ban. Bár a Google és az OpenAI is aláírta ezt a levelet, az Anthropic továbbra is távol maradt.

Kapcsolódó: indonéz AI-adatközpont