Új kutatás térképezi fel az XAI és a szimulációs modellek kapcsolatát

A komplex rendszerek szimulációja során gyakran használnak kifinomult, de alapvetően átláthatatlan számítógépes szimulátorokat. Ezek a modellek jelentősen csökkentik a számítási költségeket, ám a „fekete doboz” jellegüket öröklik, sőt gyakran súlyosbítják, elhomályosítva, hogyan befolyásolják a bemeneti változók a fizikai válaszokat — írja az ArXiv AI.

A magyarázható mesterséges intelligencia (XAI) hatékony eszközöket kínál e modellek működésének feltárására. Az XAI-módszerek azonban küzdenek a mérnöki specifikus korlátokkal, mint például az erősen korrelált bemenetek, a dinamikus rendszerek és a szigorú megbízhatósági követelmények.

A szimulációs modellek és az XAI közötti kapcsolat feltérképezése

Emiatt a szimulációs modellezés és az XAI nagyrészt külön kutatási területekként fejlődtek, annak ellenére, hogy erősen kiegészítik egymást. A két megközelítés újbóli összekapcsolása érdekében egy új áttekintés strukturált perspektívát nyújt, amely feltérképezi a meglévő XAI-technikákat.

A jövőbeli lehetőségek és az LPV állapot-tér struktúrák

A kutatás célja, hogy áthidalja a hiányosságot, és áttekintést adjon az értelmezhető és magyarázható szimulációs modellezésről, hangsúlyozva a transzparens és megbízható döntéshozatal támogatásában rejlő potenciáljukat. A jövőben az LPV (linear parameter-varying) állapot-tér struktúrák alkalmazása – amelyek affin függőséget mutatnak a változóktól – pontos és számításilag hatékony közelítést biztosíthat a dinamikákhoz az ArXiv AI 2024. márciusi közleménye szerint.