Összegyűjtötte a legfontosabb AI-szakkifejezéseket a GitHub Blog

A loop engineering lényege, hogy ismételhető rendszereket terveznek ügynökök köré, ahelyett, hogy minden feladathoz manuálisan adnának utasítást. Egy egyszerű példa: egy ügynöknek minden reggel nem kell külön utasítást kapnia az új issue-k áttekintésére, összefoglalására és javítási javaslatok megtételére, hanem egy automatikus loop végzi ezt ütemezetten. (GitHub Blog)

A Ralph loopok a loop engineering egy durva változatai, melyek egy részletes feladatot kapnak, és addig dolgoznak, amíg a munka el nem készül. Ez a módszer azonban drága és hatékonytalan lehet, mivel minden iteráció több tokent, kontextust és számítási kapacitást emészt fel.

Loop engineering és Ralph loopok

A squad egy különböző szerepekkel rendelkező ügynökökből álló csoport, melyek gyakran egy valós csapatot tükröznek. Az egyik ügynök tervezhet, egy másik ellenőrizheti a tervet, egy harmadik végrehajthatja, egy negyedik tesztelheti, és egy ötödik felülvizsgálhatja. A flották párhuzamosan dolgozó ügynökökre utalnak. Ez a párhuzamosítás és specializáció lehetővé teszi, hogy az egyes ügynökök specifikus készségekkel rendelkezzenek, és hatékonyabban végezzék el feladatukat.

Squadok, flották és több ügynökös munkafolyamatok

A „harness” a modell köré épített rendszert jelenti, amely hasznossá teszi azt a munkafolyamatokban. Ez magában foglalhatja az eszközöket, engedélyeket, memóriát és kontextust, amelyek irányítják a modell viselkedését. A GitHub Copilot jó példa egy szoftveres harness-re. A „harness engineering” a modellek köré épített rendszer tervezését és fejlesztését jelenti. A „hill climbing” kifejezést az ügynökök és harness-ek időbeli fejlesztésére használják, például visszajelzések alapján, mérve az ügynök kimenetelének minőségét.

Harness engineering és hill climbing

A „forward deployed engineer” egy már létező szerepkör, mely most AI fókusszal új értelmet nyert. Ez egy ügyfélkapcsolati szoftverfejlesztő, aki segít az AI-eszközök integrálásában. A modellek megosztása is többféleképpen történik: a zárt modellek API-n keresztül érhetők el, a nyílt súlyú (open weights) modellek súlyai letölthetők, míg a nyílt forráskódú (nyílt forráskódú) modellek esetében a modell, a kód, az adatok és a betanítási folyamat is hozzáférhető.

Forward deployed engineer és modellek típusai

A GitHub Podcastban Cassidy Williams és Marlene Mhangami beszélgettek ezekről a témákról.