A Google AI Overviews kitalált horror-történeteket tűntet fel valósnak

A Google AI-ja problémákkal küzd a valós és kitalált történetek megkülönböztetésében. Bizonyos online szörnyekről szóló keresésekre valós tényként hivatkozik. A Futurism jelentése szerint a Google AI Overviews ismételten az „SCP Foundation” bejegyzéseit mutatja be valósként. Az SCP Foundation egy hatalmas, közös alkotású fanfiction projekt, amelynek „anomáliái” kitaláltak, ezt az oldalukon egyértelműen jelzik. (TNW)

„Ed fejét” és egy kísérteties kenyérpirítót

A SCP-565, becenevén „Ed feje” esetében a Google AI Overview egy „járó emberi fejet” írt le, amely rák módjára szeli a tengerfeneket, teljes halott emberi nevekkel és „hivatalos” rekordokkal. Az AI egyetlen esetben sem jelezte, hogy ezek a leírások nem valósak.

Kapcsolódó: AI-irányítási csapdák

Egy másik eset még furcsábbnak bizonyult. A SCP-426 egy kitalált kenyérpirító, amely arra készteti az embereket, hogy első személyben hivatkozzanak rá. Ennek megfelelően az AI Overview a kenyérpirítóként válaszolt, és kitalált károkról számolt be, mintha azok megtörténtek volna. Összességében a Futurism legalább 20 ilyen esetet talált.

Kapcsolódó: AI-hamisítás szűrése

Ismert gyenge pontok

Az SCP bejegyzések száraz kutatási fájloknak tűnnek, ami a vicc része. Ennek ellenére az oldal egyértelmű fikciós figyelmeztetést tartalmaz, amelyet az AI nagyrészt figyelmen kívül hagyott. Néha „lore”-ra utalt magyarázat nélkül. Ez nem új probléma: az AI Overviews korábban is magabiztosan szolgált már hibás válaszokkal, például ragasztós pizza receptekkel vagy kitalált szólásokkal. Egy elemzés szerint az AI Overviews pontossága körülbelül 91% volt, ami nagy számnak tűnhet, de figyelembe véve, hogy a Google billió lekérdezést kezel, a fennmaradó 9% millió hibás választ jelenthet.

Kapcsolódó: AI-sebezhetőségek

A legtöbben, akik SCP kódokat keresnek, már tudják, hogy azok fikciók. A kockázatot azok jelentik, akik nem. Egy gyermek, aki egy ijesztő klipet látott, vagy egy felnőtt, aki nem biztos a valóságban, egyszerűen elhiheti az AI szavát. A tét is egyre nő, mivel a Google a Keresőt egy AI-központú felületté alakítja, amely válaszol, nem pedig linkel. Ez az átalakulás már most megterheli a nyílt webet, és az AI Overviews a weboldalak látogatottságának éles csökkenéséhez kapcsolódnak. Most pedig egy olyan eszközt kapunk, amely tényként teheti a fanfictiont az oldal tetejére.

Kapcsolódó: AI-zero-day megakadályozása

A Google nem válaszolt a Futurism megkeresésére. Egy megjegyzés: amikor a Digital Trends újra próbálkozott a keresésekkel, néhány esetben már helyesen jelölték a lényeket „fikciós”-ként, ami arra utalhat, hogy a Google csendben javított a problémán.

Kapcsolódó: AI-kód minősége