AI-chatbot tévesztette meg az amerikai hadsereget, háború szélére sodródott Kínával
Az amerikai hadsereg egy hibás, AI által generált hírszerzési jelentés alapján majdnem háborút robbantott ki Kínával. A téves adatok alapján amerikai katonák készültek egy kínai hajó elfogására.
Az incidens lefolyása és felfedezése
A CNN jelentése szerint az amerikai tisztviselők csak percekkel a terv végrehajtása előtt vizsgálták tovább a hírszerzési jelentést, és ekkor derült ki, hogy azt egy chatbot generálta, és téves információkat tartalmazott a hajó tartalmáról. A felelősségre vonás elkerülése érdekében a chatbotokat gyártó cégek gyakran szándékosan teszik misztikussá rendszereik működését, míg a felhasználók félreértik azok valódi képességeit. (Guardian AI)
Szakértői vélemények és jogi következmények
Timnit Gebru és Emily M. Bender kutatók szerint a mai nagy nyelvi modellek (LLM-ek) nem rosszul értett, hanem hibára hajlamos rendszerek, amelyek plauzibilis szöveggenerálásra képesek. Ahelyett, hogy a szuperintelligencia fantáziájára terelnék a figyelmet, a cégeknek felelősséget kell vállalniuk az általuk forgalmazott, hibás termékekért, különösen az olyan magas kockázatú területeken, mint a katonai vagy orvosi alkalmazások.
A szakértők szerint a kormányzati és katonai rendszerekben használt AI-k megbízhatósága kritikus fontosságú. Az olyan incidensek, mint a mostani, rávilágítanak a meglévő törvények betartatásának és a felelősségre vonhatóság biztosításának szükségességére. Lina Khan, az FTC korábbi elnöke is hangsúlyozta, hogy az AI használata nem mentesít a törvények alól, és a hatóságoknak be kell avatkozniuk a kockázatos gyakorlatok ellen.