Ahmad Osman szerint a nyílt forrású AI felzárkózik a zárt rendszerekhez

Ahmad Osman, az Osmantic alapítója szerint a helyi AI rendszerek robbanásszerű fejlődésen mennek keresztül, és már nem csupán hobbi szinten, hanem vállalati infrastruktúraként is versenyképesek lehetnek a felhőalapú megoldásokkal szemben. Az AI Engineer World’s Fair (AIEWF) rendezvényen tartott workshopjai rávilágítottak arra, hogy a nyílt forrású modellek egyre hitelesebb alternatívát kínálnak a nagy, zárt, iparágvezető rendszerekkel szemben.

Osman a Latent Space-nek adott interjúban kifejtette, hogy „a nyílt forrású modellek és a zárt, iparágvezető modellek közötti szakadék folyamatosan csökken.” Ezt az álláspontját a nyílt forráskódú AI Must Win weboldalon is hangsúlyozza, ahol úgy fogalmaz: „az intelligens rendszerek engedély nélküli tanulásának, felépítésének, javításának, telepítésének, auditálásának, adaptálásának, tanításának, megőrzésének és futtatásának képessége létfontosságú.” Ez a megközelítés különösen fontos a saját adatok feletti kontroll és a biztonság szempontjából.

Kapcsolódó: AI számítási teljesítmény 2028-ban

A helyi AI fejlődése és a hardverek

Az AIEWF-en tartott két részes workshopja bemutatta, milyen gyorsan halad a terület: a mobiltelefonokon és laptopokon futó modellektől kezdve a dedikált GPU-s munkaállomásokon és vállalati infrastruktúrákon át a teljes rendszerekig. Osman szerint a korábbi, 2022-es modellekhez képest a képességek jelentősen javultak. Bár még mindig van egy lemaradás a legfejlettebb felhőalapú modellekhez képest — becslései szerint négy-nyolc hónapnyi —, a helyi és nyílt forrású modellek gyorsan zárkóznak fel. A workshopokon a látogatók, köztük diákok és vállalati vezetők is, személyesen tapasztalhatták meg a rendszerek teljesítményét, sebességét és válaszidejét, összehasonlítva azokat a felhőalapú megoldásokkal.

Kapcsolódó: Lokális AI-ügynökök hatékonysága

Több kell, mint egy modell: a teljes rendszer

Osman kiemelte, hogy sokan tévesen úgy gondolnak a helyi AI-ra, mintha csupán egy modell futtatásáról lenne szó egy gépen. Valójában a ChatGPT vagy a Claude Code mintájára épülő rendszerek egy komplett infrastruktúrát foglalnak magukban, beleértve a keresési funkciókat, eszközöket és egyéb szolgáltatásokat. Példaként említette, hogy egy barátja nem tudta helyben futtatni a Claude Code-ot a Qwen 3.5 modellel egy RTX 5090-es kártyán, mert nem volt internet-hozzáférése és a modell betanítási adatai elavultak voltak. Miután a helyi rendszer kapott hozzáférést egy keresési végponthoz, a feladat sikeresen teljesült. Az Osmantic célja, hogy egy nyílt forrású rendszerrel biztosítsa ezt a teljes körű felhasználói élményt, beleértve a csevegőfelületet, dokumentumfeldolgozást és ügynököket.

Kapcsolódó: OpenAI nyílt forráskódú eszközei

Széles körű érdeklődés: a hobbitól a vállalati szintig

A workshopokon rendkívül széles közönség vett részt, a hardverrajongóktól és diákoktól kezdve egészen a vállalati vezetőkig. Sokan érdeklődtek a kontrollálható rendszerek iránt, legyen szó egy MacBookon futó modellről, otthoni GPU-ról vagy dedikált szerverparkról. A kérdések kiterjedtek az enterprise model routingra, adatgyűjtésre, ügynökök homokozójára (sandboxing) és a késleltetésre (latency). Osman maga is meglepődött az érdeklődés mértékén, és elárulta, hogy 22 darab RTX 3090-es GPU-val rendelkezik otthon.

Kapcsolódó: Anchor rendszer bemutatása

A modellek és a hardverek együtt fejlődnek

A helyi AI fejlődését mind a modellek, mind a hardverek fejlesztése hajtja. Az új architektúrák hatékonyabbak, és a korábbi, felhőalapú rendszerek képességeit egyre kisebb, lokálisan futtatható modellek is képesek reprodukálni. Például egy modern telefonon már olyan modellek futtathatók, amelyek néhány évvel ezelőtt még csak felhőben voltak elérhetők. Ez a trend teszi lehetővé, hogy a jövőben egyre több fejlesztő és vállalkozás tekintsen a helyi AI-ra mint komoly infrastruktúrára.

Kapcsolódó: AI ügynökök olcsóbb képzése

A hibrid és szuverén AI jövője

Osman szerint a jövőben egyre több hibrid megoldás fogja ötvözni a helyi és a felhőalapú AI rendszereket. A vállalkozások egyre inkább felismerik a dedikált hardverek és a biztonságos számítási kapacitások fontosságát, mivel a felhőszolgáltatók minősége, árazása vagy hozzáférési politikája bármikor változhat. Ez ösztönzi a helyi infrastruktúrák kiépítését, akár saját telephelyen, akár dedikált szerverek bérlésével. A nyílt forrású AI létfontosságú a tanulás, javítás és adaptálás szabadsága miatt — ezt a megközelítést 2026 végére várhatóan még több vállalat fogja követni.