A ChatGPT hamis információi veszélyeztetik a vendéglátás allergiavédelmét

Allergiás figyelmeztetések mellőzése

Madison, a New York-i étterem felszolgálója, több alkalommal hallotta, hogy vendégek a szerver allergiavárója ellenére a ChatGPT-re hivatkozva rendelték a kagylólevest. A szerver a tenger gyümölcsei ellen érzékeny vendégeknek figyelmeztetett, de a vendégek a mesterséges intelligencia állításait hitték fontosabbnak. — írta a The Verge

Hamisan kért borok

A vendégek gyakran kérnek olyan bort, amelyet az étterem nem tart, vagy amely egyáltalán nem létezik, miután a ChatGPT azt ajánlotta. A felszolgálók ezért gyakran a „nagyon specifikus” borkínálatot idézik, anélkül, hogy elárulnák, a chatbot teljesen kitalált egy márkát. A The Verge szerint ez a helyzet a vendégek szomjúságát és a sommelierekhez fűződő bizalmat is aláássa.

AI-hallucinációk más szektorokban

A filmmozi, a kávézók és az Apple Store dolgozói is hasonló problémákról számolnak be, amikor a vásárlók olyan termékeket vagy funkciókat kérnek, amelyek nem léteznek. A személyzet gyakran csak annyit tud mondani, hogy a chatbot „kitalálta” a kért terméket, ami feszültséget szül a szolgáltatás és a fogyasztó között. A The Verge szerint ez a jelenség már több ügyfélszolgálati területen elterjedt.

Felderített problémák a természetjárásban

Jason, a hegyvidéki folyóparti őr, szerint a turistacsoportok egyre gyakrabban érkeznek AI-generált útitervvel, amely irreális szálláshelyeket és időrendeket tartalmaz. Az őrök már többször magyarázták, hogy a mesterséges intelligencia hamis táborhelyeket vagy földrajzilag lehetetlen útvonalakat javasolt, de a csoportok gyakran szkeptikusan álltak hozzá a helyi térképhez. A The Verge szerint a természetjárók egy részét a ChatGPT-hez hasonló rendszerekbe vetett bizalom vezeti félre.

Gyermekgondozási tanácsok félrevezetése

Casey, egy délutáni program tanára, azt mondja, hogy a szülők egyre inkább a ChatGPT vagy Claude által javasolt alvási rendeket követik, még ha azok nem biztosítanak elegendő alvást. Egy család például a chatbotra támaszkodva állította össze a gyerekek esti rutinját, de a tanár szerint a gyermeknek két-három órával több alvásra volna szüksége. A The Verge szerint a szülők egyre inkább az AI-eszközöket tekintik szakértői tanácsadónak.

A Meta új Muse ügynöke várhatóan fokozni fogja az ilyen félrevezető kérések számát, mivel a felhasználók egyre inkább a generatív AI-eszközökre támaszkodnak. A The Verge szerint a Muse bevezetése előtt a vendéglátásban már több esetben is előfordult az AI-hallucináció, és a név szerint a Meta terméke tovább növelheti ezt a tendenciát.”