Nyílt forráskódú AI-modellek majdnem utolérték a zártakat, az inferencia költsége 50-szeresére esett

Az inferencia költsége drámai mértékben, 36 hónap alatt 20 dollárról 0,40 dollárra esett millió tokenre, ami a GPT-4 szintű számításokra vonatkozik. Ez a költségcsökkenés gyorsabb, mint a dotcom-korszak sávszélesség- vagy a PC-számítási árak csökkenése, és új üzleti lehetőségeket nyit a fejlesztők számára. (Hacker News)

A nyílt forráskódú modellek dominanciája a tokenforgalomban

Az OpenRouter platformon a feldolgozott tokenek többsége már nyílt forráskódú modellekhez irányul, ami a piaci eltolódást jelzi. A platform öt legforgalmasabb modellje mind nyílt súlyokkal rendelkezik. Bár a kérések számában a zárt amerikai szolgáltatók vezetnek, a tokenvolumenben a nyílt forráskódú modellek dominálnak, különösen a kódolási és ügynöki feladatokban. A kínai modellek hetente körülbelül 18 billió tokent kezelnek, szemben az amerikai modellek 5,5 billiójával.

Kapcsolódó: LeCun nyílt AI-ja

Fejlesztői elfogadás és termelési kihívások

A fejlesztők 79%-a használ nyílt forráskódú AI-modelleket az alkalmazásaikban, szemben a zárt modellek 71%-ával. A két típus nagyrészt kiegészíti egymást, a fejlesztők fele mindkettőt használja. Azonban a termelési fázisban a nyílt modelleket használó csapatoknak csak 51%-az ér el sikeres bevezetést, szemben a zárt modelleket használó 63%-kal. A Mozilla / SlashData 2026-os felmérése szerint a lemaradás nem a képességekben, hanem az operatív eszközökben és a bizalomban rejlik.

Kapcsolódó: AI-iparág bevételi célja

Operatív kihívások a nyílt modellek mögött

A nyílt modellekkel kapcsolatos legnagyobb kihívások – mint a teljesítmény, integráció és karbantartás – operatív jellegűek, nem magukkal a modellek képességeivel függnek össze. A régiótól függetlenül az infrastruktúra költsége, a biztonsági és megfelelőségi aggályok, valamint a karbantartás jelentik a fő akadályokat. Dél-Ázsiában különösen magasak a biztonsági és támogatási igények, míg Észak-Amerikában és Nagy-Kínában kevesebb mint 15% jelzi, hogy nincsenek jelentős kihívásai.

Kapcsolódó: AI-kód karbantartási problémák

A Mozilla szerint a nyílt forráskódú AI jövője a versenyen és az együttműködésen alapul, ahol a felhasználók szabadon választhatnak és cserélhetnek ki modelleket, elkerülve a gyártó-lockint. A szervezet célja, hogy egy olyan ökoszisztémát építsen, amely ellenáll a technológiai iparágban tapasztalható hatalomkoncentrációnak. Ezt a Mozilla / SlashData 2026-os felmérése is alátámasztja.

Kapcsolódó: nyílt forráskódú jogi AI