AI tévedésből fegyvernek nézte a Doritos-zacskót, négy diák perel
A fegyverfelismerő AI 90%-os magabiztossággal jelölte meg fegyverként a chipses zacskót, a riasztás a helyi rendőrök és az iskolai személyzet felülvizsgálata után sem szűnt meg. A négy diák most pert indított.

Egy marylandi középiskola négy jelenlegi és volt diákja pert indított az Omnilert nevű cég ellen, amely a fegyverfelismerő AI-rendszert működteti. A keresetben a diákok szerint jogellenesen tartották fogva és motozták meg őket, miután a rendszer egy Doritos-zacskót tévesen fegyvernek minősített. Az eset tavaly október 20-án történt, egy év múlva jutott bíróság elé. A perben a Baltimore megyei rendőrség, az oktatási testület, több rendőr és az iskola igazgatója is alperes. – írja a The Guardian.
A kereset szerint a diákok a futballedzés után a buszra vártak, amikor az edzőjük chipses zacskókat osztott ki a csapatnak. Taki Allen, aki akkor junior volt, több zacskót vitt magával, és a barátaival a piknikasztaloknál ült, amikor hat rendőrautó érkezett villogó fényekkel. Sok rendőr előhúzta a fegyverét, a diákok pedig felemelt kézzel álltak. A keresetben az is szerepel, hogy térdre kényszerítették, megbilincselték és átkutatták őket.
Hogyan működik a rendszer
Az Omnilert Gun Detect rendszere a biztonsági kamerák felvételeit vizsgálja fegyverekre utaló jelek után. A keresetben szereplő állítás szerint a riasztás az iskolai személyzet és a helyi rendőrök általi felülvizsgálat után is fennmaradt, miközben mindkét csoport tévedésnek ítélte. Maryland oktatási főfelügyelőjének megállapítása szerint a Baltimore megyei iskolákban az OGD-riasztások több mint 99%-a téves riasztás volt, amely nem igényelt rendőri beavatkozást.
Az Omnilert egy korábbi nyilatkozatában azt közölte, hogy felülvizsgálja a keresetet, és sajnálja a diákok és családjaik félelmét. A Baltimore megyei szóvivő annyit mondott, hogy folyamatban lévő perről nem nyilatkozhatnak. A keresetben közölt üzenetek szerint az igazgató nevetve reagált az esetre, és nem kért bocsánatot a diákoktól, a rendőrök pedig az AI-kamerákat szidalmazták. A diákokat a Lawyers’ Committee for Civil Rights Under Law képviseli.
A diákok állapota és a per tétje
Taki Allen azt mondta, már nem érzi biztonságban magát, ha az iskola után vár valakire, ezért gyakran fizet azért, hogy hazavigyék. Keith édesanyja, Freida Winfield arról beszélt, hogy fia és barátai elfogása idején éppen őt várták az iskola előtt. A keresetben a diákok a fizikai fájdalmat, a szoros bilincset és a tartós érzelmi megrázkódtatást is leírják. A per a Doritos-zacskó és a 90%-os riasztás ügyében a bíróság előtt áll, az állítások még nem bizonyítottak.