AI-lassítási viták új kihívásokat hoznak a nyílt súlyú modelleknek

A lassítási vita eddig nagyrészt a határterületi fejlesztőkre összpontosított, és arra, hogy milyen mértékben tudják ellenőrizni modelljeik használatát. Ugyanakkor számos vállalat már kísérletezik nyílt súlyú modellekkel, saját infrastruktúrájukon töltve le, testreszabva és futtatva őket. Ilyen modellek például a Meta Llama vagy a Mistral modelljei, de a Hugging Face platformon közel 3 millió nyilvános modell található. (AI Business)

Felelősségvállalás a súlyok közzétételét követően

A nyílt súlyú modellek rugalmasságot kínálnak a vállalatoknak a telepítés terén, de a fejlesztők elveszítik a közvetlen technikai ellenőrzést a közzétett súlyok módosítása, telepítése és használata felett. Míg a licencszerződések és jogi korlátozások továbbra is korlátozhatják a használatot és az újraelosztást, a súlyok közzététele után a fejlesztők kevésbé tudják felügyelni a modellek módosítását és bevetését.

Manuel Schonfeld, a Qu vezérigazgatója szerint a hagyományos biztonsági megközelítések, mint a beágyazott auditálás vagy a folyamatos monitorozás, csak akkor működnek, ha a fejlesztő még irányítja a modellt. „Amint a súlyok elhagyják az épületet, a feladat a vállalatra hárul, amelyik beveti őket, nem pedig arra, amelyik betanította őket” — nyilatkozta Schonfeld.

Biztonsági kockázatok és szabályozási terhek

A nyílt súlyú modelleknek nem szabadna mentesülniük a biztonsági követelmények alól, mivel ezek is hordozhatnak biztonsági és visszaélési kockázatokat. Egy friss brit kormányzati tanulmány kimutatta, hogy bár a hagyományos nyílt forráskódú szoftvereknek már jól bejáratott biztonsági gyakorlatai vannak, a nyílt forráskódú AI további kockázatokat rejt magában a modell súlyai, betanítási adatai, finomhangolási folyamatai és eredete tekintetében.

A szigorúbb felügyeleti szabályok megemelhetik a nyílt súlyú AI-modellek költségeit. Ha a lassítási vita szigorúbb megfelelési és értékelési követelményeket eredményez, a nagy AI-cégek könnyebben teljesíthetik ezeket, mint a kisebb nyílt súlyú fejlesztők.

A nagyobb laborok rendelkeznek azokkal az erőforrásokkal, amelyek a teszteléshez, értékeléshez és megfeleléshez szükségesek, míg a kisebb fejlesztők nehezen tudnának megfelelni a szigorúbb követelményeknek. A vita központi szereplői, Dario Amodei és Sam Altman, továbbra is a megfontolt megközelítést hangsúlyozzák a határterületi AI fejlesztésében.