AI-robotok biztonságát teszteli a Safeworld, 12 millió dollárt gyűjtött

A robotika terén a generatív AI-modellek átveszik az irányítást, ami kiszámíthatatlanná teszi a rendszereket. A Carnegie Mellon Egyetem Safe AI laborjának igazgatója, Dr. Ding Zhao, Kyle Wong és Simo Rachidi társalapítókkal létrehozta a Safeworld nevű céget, hogy megoldja ezt a problémát. A cég a valósághű szimulációkra és digitális emberi modellekre támaszkodik a robotok biztonságának értékeléséhez.

A Safeworld több mint 12 millió dolláros seed befektetést gyűjtött, melyet a Shine Capital és az a16z Speedrun vezetett. További befektetők a Box Group, a Carnegie Mellon University Endowment, az Innovation Endeavors és az SV Angel. „Itt az ideje egy iparági biztonsági szabvány felépítésének, amíg a robotokat tervezik és bevezetik” — nyilatkozta Jonathan Lai, az a16z Speedrun partnere a TechCrunch-nak. „Túl késő lesz, mire a robotok már ütköznek gyerekekkel a háztartásokban, és biztonsági incidenseket okoznak.”

A vállalat szakterülete a robotvezérlő rendszerek értékelése szimulációkban, valósághű emberi modellekkel. Ez hasonló kihívás, mint amellyel a Tesla vagy a Wayve szembesül, de a robotok esetében nehezebb, mivel azok strukturálatlan környezetben működnek, és minden létesítménynek eltérő biztonsági előírásai vannak. A Safeworld digitális ikreket épít valós környezetekről, például a Genesis vagy a MuJoCo segítségével, majd több ezer forgatókönyvet futtat, ahol emberi modellek találkoznak a tesztelt robotokkal.

A robotgyártók számára harmadik fél általi biztonsági tanúsítás válik elengedhetetlenné a robotok nagymértékű bevezetésekor. A Safeworld együttműködik a Gritt Robotics-szal, amelynek AI-agya segíti a napelem panelek telepítését végző robotokat. Vishal Dugar, a Gritt Robotics CTO-ja szerint a rendszerek biztonságát nehéz matematikai egyenletekkel igazolni, ezért empirikus tesztelésre van szükség. Az emberi megjelenés, testtartás és viselkedés (pl. elesés, guggolás) sokfélesége miatt rengeteg forgatókönyvet kell figyelembe venni a biztonsági szimulációk során.

A Safeworld még korai szakaszban van, és a termék modelljét (külső felhasználóknak szánt platform vagy szolgáltatásalapú megközelítés) még alakítja. A csapat azonban magabiztos abban, hogy a megfelelő problémát veszi célba. „Valószínűleg mi leszünk az első nyereséges cég ezen a területen” — mondta Zhao, „mert ha bárki be akar vezetni valamit, fizetnie kell nekünk a helyzet kezeléséért.”