Két tucat cég védi a nyílt AI-modelleket az amerikai döntéshozóknál

A dokumentum az 1980-as évek nyílt forráskódú szoftvermozgalmához hasonlítja a jelenlegi vitát arról, hogy az AI-modellek súlyait szabadon lehessen-e terjeszteni, vagy kereskedelmi API-k mögött kell-e tartani őket. A nyílt súlyú modellek olyan AI-rendszerek, amelyek betanított paramétereit bárki számára elérhetővé teszik, így saját hardveren letölthető, ellenőrizhető és módosítható. (AI News)

A kezdeményezés három fő érvre épül: a nyílt súlyok csökkentik a belépési költségeket az induló vállalatok és az intézmények számára, növelik a versenyt a technológiai szektorban, és segítenek elkerülni a szolgáltatói függőséget a vállalati ügyfelek számára.

Kapcsolódó: Trump AI-tulajdonosi ötlete

A nyílt modellek előnyei és kihívásai

A levél kitér a nyílt modellek biztonsági kockázataira is, elismerve, hogy a súlyok közzététele után már nem állnak az eredeti fejlesztő ellenőrzése alatt. A biztonsági őrök eltávolításával módosított verziók könnyen terjeszthetők. A szignálók szerint azonban a megoldás nem a tiltás, hanem a kibertámadók elleni védekezéshez hasonlóan, a nyílt modellekkel való fenyegetések észlelése és szimulálása.

Kapcsolódó: Kína blokkolja a Meta felvásárlását

Kiemelik, hogy a zárt modellek sem feltétlenül biztonságosabbak, mivel feltörhetők, visszaélhetnek velük, vagy külső kutatók által nem megfigyelhető módon hibásodhatnak meg. A fejlett képességek néhány zárt szolgáltató kezében való koncentrációja egyetlen ponton teremthet hibalehetőséget. Ezzel szemben a nyílt modellek lehetővé teszik külső kutatók számára a viselkedés vizsgálatát és a sebezhetőségek azonosítását.

Kapcsolódó: Meta támogatja a KOSA-t

A szoftverbiztonsági párhuzamok és a desztilláció

A levél párhuzamot von a szoftverbiztonsági vitákkal, ahol az „obskuritás helyett a nyílt forráskód biztonságosabb” érv dominált évtizedekig, bár konkrét adatokkal nem támasztja alá az AI-rendszerekre vonatkozó állítást. A dokumentum külön védelmébe veszi a „desztilláció” módszerét, amellyel a nagyobb modellek képességeit kisebbekbe ültetik át.

Kapcsolódó: Meta WhatsApp hozzáférés EU-ban

A nyílt levél aláírói között van a Hugging Face is.

Kapcsolódó: Meta felhőszolgáltatás indul