AI-szimulációval teszteli a robotok biztonságát a Laplace Intelligence

Az OpenAI és a Hugging Face incidensei rávilágítottak az AI-ügynökök kiszámíthatatlanságára. „Képzeljék el, ha ez a fizikai világban történne meg” — mondta Howie Sun, a Laplace Intelligence vezérigazgatója és társalapítója a TechCrunchnak. A robotika és a fizikai AI biztonságát célzó automatizált red-teaminget — a rendszer szándékos stressztesztelését — fejlesztő startup szerint az egyetlen módja annak, hogy megbizonyosodjunk a fizikai AI biztonságáról, ha magával az AI-val teszteltetjük.

„Célunk, hogy segítsünk a cégeknek felfedezni és kijavítani a problémákat a bevezetés előtt, és idővel egy közös bizonyítékalapot építsünk, amelyben az ügyfelek, a biztosítók és a szabályozók is megbízhatnak” — tette hozzá Sun. A Laplace az egyik azon 20 startup közül, amelyek a TechCrunch Disrupt San Franciscó-i rendezvényén, október 13–15. között versenyeznek a Startup Battlefield 200-on. A cég a University of Michigan kutatásaira alapozva, egy évvel ezelőtt alakult, és a „Laplace démonja” gondolatkísérlet után kapta a nevét, amely a jövő precíz előrejelzését ígéri.

A startup magját egy valósághű szimulációs környezet alkotja, amelyet az Nvidia Cosmos platformjának utólag képzett verziója hajt, és amely valós adatokkal — például Google Street View képekkel, térképadatokkal és TomTom forgalmi információkkal — van gazdagítva. A fejlesztők nyelvi parancsokkal valós időben változtathatják a környezetet, például délutáni forgalmat adva hozzá. A szimulációban nemcsak a környezet, hanem más szereplők viselkedése is modellezve van, így a rendszer interaktív módon reagál a váratlan helyzetekre, például egy tesztjármű hirtelen irányváltására.

A Laplace egyedi értékesítési pontja az a saját fejlesztésű AI-ügynök, amely automatikusan képes sarokeseteket — az AI-rendszereket megtréfáló, ritka forgatókönyveket — generálni. Ezek az ügynökök hírekből, rendőrségi jelentésekből vagy egyéb információkból merítenek, hogy aktívan teszteljék az önvezető járműveket és más fizikai AI-rendszereket. Ez a megközelítés eltér a hagyományos módszerektől, ahol az AI-t rögzített felvételekkel vagy emberi ötletekkel tanítják az éles helyzetek kezelésére.

A startup már bevételt termel, főként önvezető járművekkel kapcsolatos projektekből, olyan ügyfelekkel, mint a japán Isuzu és a texasi Bot Auto. Az Nvidia is ügyfél, és a T-Mobile-lal együtt dolgoznak egy ingyenes okosváros-pilótán San Joséban.

A cég célja a projektalapú szerződések megújítása, és a TechCrunch Disrupton való részvétel is segítheti a finanszírozás megszerzését és a növekedést. A fő rivális az Applied Intuition, amely már 1,2 milliárd dollár befektetést szerzett. Sun szerint a Laplace módszertana, az AI használata az AI tesztelésére, egy „új paradigma, amely teljesen megváltoztatja a fizikai AI tesztelését”.