Alapvető világmodelleket javasol a megbízható AI-ügynökökhöz a kék égbolt-díjas Florent Delgrange

Florent Delgrange kapta a Legjobb Kék Égbolt Papír Díjat a 2026-os AAMAS konferencián. Kutatása, a „Foundation World Models for Agents that Learn, Verify, and Adapt Reliably Beyond Static Environments” arra a kérdésre keresi a választ, hogyan tanulhatnak az autonóm ügynökök folyamatosan változó világban anélkül, hogy elveszítenék megbízhatósági garanciáikat. (Robohub)

A megerősítési tanulás és a formális módszerek integrációja

A reinforcement learning (RL) és a formális módszerek kiegészítik egymást a probléma megoldásában. Az RL lehetővé teszi az ügynökök számára a tanulást tapasztalatok útján, de a rosszul megfogalmazott jutalmakat ki lehet játszani. A formális módszerek ezzel szemben garantálják a helyes viselkedést, de általában fix környezeti modellre van szükségük, ami egy nyílt és változó világban hiányzik. Delgrange kutatása egy olyan kutatási irányt javasol, amely ezeket a megközelítéseket egyetlen ciklusba integrálja.

Egy „alapvető világmodell” (foundation world model) tapasztalatokból tanulna, de úgy lenne strukturálva, hogy egy ellenőrző (verifier) képes legyen vele érvelni. Az ügynök tanulása során frissítené a modelljét, mérné annak megbízhatóságát, és ellenőrizné, hogy a viselkedése továbbra is megfelel-e a specifikációnak. Az ellenőrző visszajelzése elutasíthat egy biztonságosnak nem tekinthető frissítést, kérhet adatokat bizonytalan régiókból, vagy elindíthat egy modellrevíziót.

Az alapvető világmodellek víziója

Delgrange víziója szerint az „alapvető” jelző elsősorban az újrafelhasználhatóságra utal, nem a méretre. Nem egy nagyobb videóelőrejelző modellre gondol, hanem egy tartós és strukturált modellre, amelyet az ügynök különböző feladatokon, viselkedéseken és változó ügynökpopulációkon keresztül is magával vihet. Ez a modell több lenne, mint egy egyszerű térkép: megmutatná, mely területeket vizsgáltak felül, mely következtetések függnek azoktól az információktól, és mikor vált egy régi útvonal megbízhatatlanná a világ változása miatt.

Egy hasznos alapvető világmodellnek három kulcsfontosságú tulajdonsággal kell rendelkeznie: kalibráltsággal (minden tanult absztrakcióhoz tartozzon egy hiba- vagy lefedettségi mérőszám), kompozíciólépés-képességgel (a már igazolt dinamikák és viselkedések újrafelhasználhatók legyenek új feladatok összeállításakor), és szemantikus lekérdezhetőséggel (egy formális követelmény vagy magas szintű utasítás segítsen a megfelelő jutalmazási modell, feladat-specifikus absztrakció vagy előzetes viselkedés meghatározásában kevés további tapasztalattal). A tartós gondolat, hogy a világmodell közös alappal szolgáljon a tanuláshoz, tervezéshez és ellenőrzéshez.

A jelenlegi modellektől való eltérés

A legtöbb jelenlegi modellalapú megközelítés egy adott feladatra, környezetre, viselkedésre vagy betanítási elosztásra összpontosít. Fő céljuk a prediktív pontosság maximalizálása. Ez azonban nem egyenlő a garanciák teljesítésére való alkalmassággal. Például egy raktári robot esetében a modell kiválóan jósolhatja meg a legtöbb átmenetet, de figyelmen kívül hagyhat egy ritka, veszélyes interakciót egy targoncával, ami pont a baleset-elkerülési következtetés érvényességét határozza meg.

Az alapvető világmodellek esetében a releváns kérdés nem csupán az, hogy „Milyen pontos a modell?”, hanem „Milyen következtetéseket indokol meg ez a pontosság, erre a viselkedésre és követelményre nézve?”. Ezek a modellek kifejezetten arra törekednének, hogy összekapcsolják a pontosságot az elemzett viselkedéssel, és az adateloszlás változásával online frissítsék ezt az információt.

Példa a működésre

Egy forgalmas raktárban dolgozó kézbesítő robotot vehetünk példaként. A feladat lehetne: „Végül szállítsd ki a csomagot, miközben mindig kerüld el az ütközéseket.” A rendszer ezt a követelményt egy jutalmazási modellé alakítaná. A tanulás és az ellenőrzés ugyanazon a leíráson alapulna. Ahogy a robot megfigyeléseket kap, megtanulná a raktár tömör reprezentációját és egy erre épülő viselkedést. Az ellenőrző két kérdést tenne fel: Megfelel-e a viselkedés a szállítási és ütközés-elkerülési követelményeknek a tanult világmodellben?

És elegendő pontos-e a tanult absztrakció azokon az útvonalakon, amelyek számítanak, hogy ez a következtetés megbízható legyen? Egy igazolás csak akkor értelmes, ha mindkét válasz alátámasztott. Ha egy új targonca egy ritkán használt gyorsítósávot kezd használni, a modellnek nem szabadna a régi jóslatot garanciaként kezelnie, hanem csökkentenie kellene a megbízhatóságát az érintett területeken.

A kutatás célja, hogy az ilyen helyzetekben az ügynök képes legyen azonosítani kompetenciájának határait, bizonyítékokat gyűjteni ott, ahol ezek a határok számítanak, és magyarázatot adni arra, miért nem igazolható jelenleg egy adott viselkedés.