Logikai keretet adnak az AI-ügynököknek az ontológiák, az UC Berkeley professzora szerint

Frank Coyle, az UC Berkeley professzora a közelmúltbeli AI Engineer World’s Fair rendezvényen tartott 20 perces előadásában hangsúlyozta, hogy az LLM-ek ugyan hatékonyak a valószínűségi érvelésben, de az ügynökrendszereknek „logikai keretekre” van szükségük, amelyeket az ontológiák biztosítanak. Coyle szerint az ontológiák „adatok grafikonokként” írhatók le, és már Arisztotelész óta léteznek, az AI történetében pedig mindig is szerepet játszottak. (Latent Space)

Neo4j ontológia-alapú rendszere

A Neo4j grafadatbázis-rendszereiről ismert cég is ontológiákat használ ügynöktermékeiben. Emil Eifrem vezérigazgató szerint három különböző típusú ontológia – üzleti, technikai és végrehajtási nyomok – teszi lehetővé egy „okosabb, megosztott alrendszer” létrehozását, amely skálázhatóan futtatja az ügynököket. Az üzleti ontológia a szervezet kulcsfogalmait írja le, a technikai ontológia az ökoszisztéma összes adatforrásának és adatvagyonának metaadatait tartalmazza, míg a végrehajtási nyomok az ügynök futásidejű jeleit rögzítik.

A Semantic Web újjáéledése

Coyle szerint a web-ontológiák, mint a Schema.org, a FOAF, a Dublin Core, valamint a RDFS és OWL kiegészítő technológiák, különösen hasznosak az ügynökrendszerek építésében. Előnyük, hogy már szerepelnek az LLM-ek képzési adathalmazában, így a fejlesztők közvetlenül tudnak rájuk promptolni. Kingsley Idehen, az OpenLink Software vezetője szerint az ontológiák „definiálják az entitások és kapcsolatok típusait, amelyeken keresztül a nyelv számítható kontextust nyer”, így az LLM-ek nyelvi erejét a számítástechnika UI/UX rétegére viszik. Azonban az ontológiák karbantartása és naprakészen tartása továbbra is kihívást jelent, ami korábban gátolta a „Semantic Web” víziójának elterjedését.

Neuroszimbolikus AI alkalmazása

Coyle a valószínűségi ügynökök és az ontológiák konvergenciáját „neuroszimbolikus AI”-nak nevezi, amely a neurális hálózatokat köti össze a szimbolikus AI-val, például a tudásgrafikonokkal. Ez a megközelítés „megtartja az LLM-et a saját keretein belül”. A Claude-ügynök ciklusban például egy ontológia segít validálni az LLM következtetéseit. Bár az ontológiák karbantartása nehéz probléma, a struktúrált jellegük illeszkedik az LLM-ek hajlamos tendenciáihoz, és lehetővé teszi a „vastag ügynökök” helyett a „vékony ügynökök” használatát egy ontológia-alapú szemantikai rétegen.

A Stanford és a Google Robotics közös tanulmánya szerint az ontológiák segíthetnek a robot-navigáció memóriaigényének csökkentésében, miközben a pontosság változatlan marad. A közelmúltbeli AI Engineer World’s Fair eseményen a „szoftvergyárak” helyett a „guardrail”-ek és az emberi felügyelet fontosságát hangsúlyozták, ami a szoftvermérnöki fegyelem újjáéledését mutatja, beleértve a web-ontológiák visszatérését is.