AI fegyverdetektor hibázott, beperelték a gyártót a lövöldözés túlélői

Egy tinédzser túlélő pert indított az Omnilert ellen, miután a cég AI fegyverdetektor rendszere nem észlelte a pisztolyt a nashville-i iskolai lövöldözésben. A támadásban ketten meghaltak, köztük az elkövető is. (Ars Technica)

A Davidson megyei bíróságon benyújtott kereset szerint az Omnilert tudta, vagy tudnia kellett volna arról, hogy a rendszernek „jelentős működési korlátai vannak, amelyek észlelési hibákhoz vezethetnek valós vészhelyzetekben”. Ezek közé tartoznak a kamera elhelyezése, a fegyver és az érzékelők közötti távolság, a kamera szöge, a megvilágítás és a fegyver láthatósága miatti problémák.

Kapcsolódó: ChatGPT-botrány

A rendszer korlátai

Az Omnilert társalapítója, Ara Bagdasarian nem válaszolt a megkeresésre. A rendszer viszonteladója, a System Integrations sem kommentálta az ügyet. A Metropolitan Nashville Public Schools (MNPS) nemrég több mint 1 millió dollárért szerződött az AI-réteg telepítésére a meglévő kamerahálózatukra.

Kapcsolódó: adatvédelmi incidens

A lövöldözés körülményei

Az MNPS szóvivője, Sean Braisted elmondta, hogy a lövöldöző pozíciója miatt a felvételek „nem voltak elég közeliek ahhoz, hogy pontos olvasatot kapjanak és aktiválják a riasztást”. A per szerint az Omnilert saját marketinganyagaiban túlzottan is reklámozta képességeit, például azt állítva, hogy a technológia „megelőzhette volna a tragédiát a Marjory Stoneman Douglas High Schoolban”.

Kapcsolódó: pénzmosás Ausztráliában

Az Omnilert weboldala a lövöldözés előtt nem említett semmilyen hibalehetőséget vagy észlelési korlátozást. Az egyik ügyvéd, Chris Smith szerint kérdéses, hogy egy ilyen speciális feltételekhez kötött rendszer valóban hatékony-e. Smith szkeptikus volt az AI fegyverdetektorokkal kapcsolatban, és úgy véli, nem alkalmasak még a feladatra.

Kapcsolódó: hangrekonstrukció

David Riedman, az oktatási és biztonsági szakértő, aki a K-12 School Shooting Database-t vezeti, megjegyezte, hogy az ilyen rendszerekre költött pénzt inkább iskolapszichológusokra vagy válságban lévő diákokra lehetne fordítani. Az Omnilert elleni per a Metropolitan Nashville Public Schools 1 millió dolláros szerződését követi.

Kapcsolódó: AI-bűnözés