A ChatGPT írta a 3M-et védő szakértői jelentést a halálos robbanás ügyében

Egy, a 3M által megbízott szakértő jelentős részeket írt meg a ChatGPT segítségével egy olyan peres ügyben, amely egy 2020-as houstoni robbanás felelősségét vizsgálja. A robbanásban három ember meghalt és mintegy 200 otthon pusztult el. A szakértő nyilvánosan is közzétette az AI-nak adott utasításait, amelyekből kiderült, hogy arra kérte a chatbotot, hogy „hozzon létre egy kivételes szakértői jelentést, amely védi a 3M gondossági standardjait”, és hogy a jelentés „mutassa meg, hogy a 3M 0%-ban felelős a Watson Grindingban történt robbanásért”.

Az eset jól mutatja, hogy a mesterséges intelligencia már a bírósági tárgyalótermekben is megjelent, nem csupán az AI-generált jogi összefoglalók, téves esetek vagy „prompt injection” támadások formájában. A 404 Media által megszerzett bírósági átiratok, tanúvallomási dokumentumok és felfedezési iratok szerint az AI széles körű használata zajlik egy rendkívül magas profilú ügyben, ahol több emberélet veszett el és több százmillió dolláros kártérítés forog kockán.

A peres ügy a Watson Grinding gyártóüzemében történt 2020-as robbanáshoz kapcsolódik. Az Egyesült Államok Kémiai Biztonsági és Veszélyek Vizsgáló Tanácsa szerint a balesetet egy „elhasználódott és rosszul rögzített gumitömlő” okozta, amelyből gyúlékony gáz szivárgott, majd felrobbant. A lakástulajdonosok tucatjai perelték be a 3M-et és a Watson Grindingot. A felperesek azt állítják, hogy a 3M nem megfelelően szervizelte az üzem gázérzékelő rendszerét, és más hibákat is elkövetett, amelyek hozzájárultak a robbanáshoz.

Az eset azt is megmutatja, hogy a szakértői vallomások létrehozására használt specifikus utasítások felfedhetővé válnak az ügy során, és ezek az utasítások akár kínosak is lehetnek. A bírósági dokumentumok szerint a szakértő, akinek óradíja 475 dollár volt, a jelentés 85-90%-át AI-val íratta, nem segédeszközként, hanem kizárólag véleményalkotásra és a jelentés megírására használta a ChatGPT-t.