AI-ügynökök most hívnak külső API-kat válaszukban

Az AI-ügynökök új képességet kaptak: az úgynevezett eszközhívással (tool calling) már nem csak szöveges válaszokat generálnak, hanem képesek külső funkciókat vagy API-kat aktiválni válaszuk részeként. Ez a mechanizmus alapvetően alakítja át az LLM-ek működését, interaktívvá téve őket a külvilággal. (Towards Data Science)

A hagyományos LLM-ek passzív válaszadók: kérdést kapnak, majd válaszolnak. Az eszközhívás azonban lehetővé teszi, hogy az AI ne csupán válaszoljon, hanem cselekedjen is. Ez lehet élő adatok lekérdezése, üzenet küldése, adatbázis lekérdezése vagy egy külső API meghívása. Az eszközhívás tehát az LLM-et egy okos szöveggenerátorból valódi cselekvővé lépteti elő.

Kapcsolódó: AI ügynökök promptkövetése

Hogyan működik az eszközhívás?

Az eszközhívás lényege, hogy az LLM dönt arról, melyik külső funkciót vagy API-t hívja meg, és milyen argumentumokkal. Fontos megérteni, hogy maga a modell nem hajtja végre a hívást, csupán a döntést hozza meg. A tényleges végrehajtás a mi kódunkban történik. Miután a kód végrehajtotta a kiválasztott eszközt, az eredményt visszük vissza az AI modellnek, amely ezt felhasználva állítja elő a végső választ a felhasználó számára. Ez az úgynevezett eszközhívási ciklus.

Kapcsolódó: Microsoft AI-biztonsági intézkedések

A ciklus lépései a következők: a felhasználó üzenetet küld, az AI modell döntést hoz az eszközhasználatról és argumentumokról, a kód végrehajtja a kiválasztott eszközt, az eredményt visszajuttatja a modellnek, majd az AI modell a kapott eredménnyel generálja a végső választ. A modell tehát csak egy eszközkérést generál, nem magát az eszközt hajtja végre.

Kapcsolódó: CLI az AI-ügynökök számára

Példa: Időjárás-API hívása

A leggyakoribb példa az eszközhívásra egy időjárás-API lekérdezése. Képzeljük el, hogy egy időjárás-asszisztenst építünk. Amikor a felhasználó az időjárásról kérdez, a modell nem talál ki semmit, hanem egy valós időjárás-függvényt hív meg, hogy aktuális adatokat szerezzen be. Ehhez az OpenAI `gpt-4o-mini` modelljét használhatjuk, és definiálhatjuk a `get_current_weather` nevű funkciót, amely megadja a város nevét és a mértékegységet.

Kapcsolódó: OpenTools teljesítménynövekedés

A modell a funkció leírása, a paraméterek leírása és az előírt séma alapján dönti el, hogy melyik eszközt hívja meg. A sikeres eszközhívás eredménye egy strukturált, géppel olvasható válasz, amely nem természetes nyelvi szöveg, hanem egy utasítás, amely megjelöli, melyik eszközt és milyen argumentumokkal kell hívni. Az OpenAI szerint ez a mechanizmus az agentic AI munkafolyamatok gerince.

Kapcsolódó: AI-ügynökök eszköztudásának vizsgálata