Valós idejű magyarázatot ad az önvezető autók döntéseire a Motional és az MIT új AI-rendszere
A Nature folyóiratban megjelent kutatás szerint a Concept-Wrapper Network nevű módszer az önvezetők neurális hálózatainak belső számításait fordítja le ember által olvasható fogalmakká.
A Motional és az MIT kutatói egy olyan rendszert hoztak létre, amely lehetővé teszi az önvezető autók számára, hogy valós időben magyarázzák el döntéseiket. Ez a fejlesztés a mesterséges intelligencia „feketedoboz” problémájára kínál megoldást a robotpilóta rendszerekben. (AI News)
A Nature folyóiratban publikált kutatás egy Motional-csapatból, köztük Laura Major vezérigazgatóval, valamint az MIT Számítástechnikai és Mesterséges Intelligencia Laboratóriumának kutatóiból áll. Az általuk javasolt módszer, a Concept-Wrapper Network (CW-Net), arra hivatott, hogy a robotpilóta rendszerek neurális hálózatának belső számításait ember által olvasható fogalmakká fordítsa le.
A modern önvezető rendszerek egyre inkább támaszkodnak neurális hálózatokra, amelyeket hatalmas mennyiségű vezetési adaton képeznek. Ezek a hálózatok jól teljesíthetnek, de nem tárják fel érvelésüket, ezért a mérnökök feketedobozokként írják le őket. Ha egy önvezető autó hirtelen fékez egy tiszta úton, anélkül, hogy látható veszély lenne, sem a sofőr, sem az utas nem tudja megmagyarázni az okát.
A neurális hálózat logikájának lefordítása emberi fogalmakra
A CW-Net a rendszer belső logikáját olyan fogalmakká alakítja át, mint a „Megálló járműhöz közeledés” vagy „Ciklistához közel”. Ezek a Motional szerint megjelenhetnének a műszerfalon, jelezve, mely fogalmak befolyásolják a jármű vezetési döntéseit azok megtörténtekor.
A rendszer úgy lett kialakítva, hogy a magyarázatok ne utólagos találgatások legyenek, hanem a jármű végső döntéshozó rendszere közvetlenül ezekre az emberileg értelmezhető fogalmakra alapozza a cselekvést. Laura Major szerint az end-to-end mélytanulásos megközelítés, amely kizárólag a vezetési döntések kezelésére szolgál, elérhet 80-95 százalékos megoldást, de ez nem elegendő a sofőr eltávolításához vagy a városok, közösségek és ügyfelek bizalmának elnyeréséhez.
Tesztelés Las Vegas környékén
A magyarázható AI kutatása nagyrészt számítógépes szimulációkban maradt, laboratóriumi környezetben. A Motional és az MIT csapata ehelyett egy önvezető járművön tesztelte a CW-Net-et, egy tapasztalt biztonsági kezelővel a volánnál, adatokat gyűjtve egy magán tesztpályán és a nyilvános utakon Las Vegas környékén.
A csapat a mélytanuláson alapuló tervezőrendszerük egy korábbi kísérleti verzióját használta, amely versenyképes teljesítményt mutatott, de olyan hiányosságokkal, amelyeket a CW-Net segíthetett volna felszínre hozni. A tesztelés során két eset világította meg a rendszer képességeit: az egyikben az önvezető jármű ismételten megállt egy forgalmi kúp közelében, ami arra utalhatott, hogy a rendszer nem értette megfelelően a helyzetet.