A Stanford szerint a világmodellek új kihívást jelentenek a politikai szabályozásban

A Stanford Intézet az Emberközpontú Mesterséges Intelligenciáért (HAI) új tanulmányában arra figyelmeztet, hogy a világmodellek, amelyek nem csupán nyelvet dolgoznak fel, hanem fizikai környezetekről alkotnak működő reprezentációkat, exponenciálisan nehezebb szabályozási kihívást jelentenek, mint a nagy nyelvi modellek (LLM). (Stanford HAI)

A Google DeepMind, az Nvidia, a Tencent és számos startup önt hatalmas erőforrásokat ebbe a területbe, mivel az új rendszerek már nem csupán kutatási prototípusok, hanem valós bevetésre készülnek robotikában, autonóm járművekben, infrastruktúra-tervezésben és nemzetbiztonsági alkalmazásokban.

„A világmodellek teszik lehetővé az igazi térbeli intelligenciát, lehetővé téve az AI számára, hogy valóban megértse és navigáljon a körülöttünk lévő világban” — mondta Fei-Fei Li, a HAI alapító igazgatója. Ezek az AI-rendszerek egy környezet — például egy város, egy gyár vagy egy katasztrófa sújtotta terület — belső reprezentációját építik fel, és ezt használják fel annak előrejelzésére, hogy mi történik, ha egy adott környezetben cselekvést végeznek. Ahelyett, hogy a következő szót jósolnák meg, mint egy LLM, a világmodellek fizikai következményeket jeleznek előre.

Három kategória, eltérő szabályozási igények

A tanulmány három funkcionális kategóriát különböztet meg: renderelők (renderers), szimulátorok (simulators) és tervezők (planners). Ezek eltérő szabályozási követelményeket támasztanak. A renderelők valósághű képeket vagy videókat generálnak, de ezek megjelenése nem feltétlenül tükrözi a fizikai pontosságot.

A szimulátorok mélyebbre mennek, modellezik a mögöttes fizikát, geometriát és dinamikát, és szerkezetileg konzisztens módon kell viselkedniük mérnöki használatra. A tervezők határozzák meg, hogy egy ügynöknek milyen cselekvést kell végrehajtania, és ez a képesség hajtja az autonóm járműveket és a katasztrófaelhárító robotokat.

Fizikai kockázatok és kettős felhasználás

Amy Zegart, a HAI társigazgatója szerint a világmodellek leginkább aggasztó aspektusa a nemzetbiztonsági következmények. Ezek a rendszerek kettős felhasználásúak: ugyanaz a rendszer navigálhat humanitárius segélyt egy katasztrófahelyzetben, mint egy fegyvert egy ellenséges területen.

A technológia csökkentheti a képzett autonóm katonai rendszerek bevezetésének akadályait, lehetővé téve kevésbé erőforrásokkal rendelkező szereplők számára is fegyverek és taktikák tesztelését szintetikus környezetben. Különösen az Egyesült Államok és Kína közötti verseny várható ezen a területen, mivel Kína nemzetbiztonsági prioritásként határozta meg a fizikai AI fejlesztését.

Li aggodalmát fejezte ki a koncentráció és az adatvezérelt hozzáférés miatt is. A világmodellek olyan adatokra támaszkodnak, amelyek nem szerezhetők be az internetről, hanem fizikai gépek működtetésével kell generálni őket. Ez jelentős belépési akadályokat teremt, és előnyhöz juttatja a nagy technológiai vállalatokat. Russell Wald, a HAI ügyvezető igazgatója szerint „a kormányzati rés óriási”.