AI-ajánlók megbízhatatlan forrásokra támaszkodnak, új jelentés

Az AI-alapú szoftverajánlók megbízhatósága megkérdőjeleződött egy friss, alapos vizsgálatban. A Perplexity AI által generált több ezer ajánlás közül 7534 hivatkozást elemeztek, és megdöbbentő eredményre jutottak: a hivatkozott domainek több mint fele rosszul rangsorolt vagy nem is szerepel a top egymillió legnépszerűbb weboldal között. (Hacker News)

A vizsgálat szerint a hivatkozások 59,8%-a olyan domainekre mutat, amelyek a Tranco top-1M lista alapján rosszabbul teljesítenek a 100 000-es határnál, míg 23,4%-uk egyáltalán nem található meg a legnépszerűbb egymillió weboldal között. Érdekesség, hogy a leggyakrabban hivatkozott források között olyanok is szerepelnek, mint a Guideflow.com, egy gyártó marketing blog, amely 194 hivatkozással előzi meg a Gartnerhez hasonló, elismert iparági elemző céget.

Gépi generálás és új domainek

A kutatás rávilágított három, látszólag közös irányítás alatt álló weboldalra, amelyek összesen 215 128 gépi generált „legjobb szoftver” listát publikáltak. Ezek a domainek — wifitalents.com, worldmetrics.org és gitnux.org — mind 2023 decembere után jöttek létre, és egyazon Cloudflare-szerverpárt használnak. Oldalaik címe és leírása is a gépi olvasókra céloz, nem a felhasználókra, „Facts & Grounding Page” megjelöléssel.

A hitelesség csökkenése

A jelenség komoly következményekkel járhat a felhasználói bizalomra nézve. Amikor az AI-alapú ajánlók megbízhatatlan vagy manipulált forrásokra támaszkodnak, a felhasználók elveszíthetik a beléjük vetett hitet. Az, hogy a marketingblogok és a gépi generálású tartalmak felülírják az elismert szakértői véleményeket, aláássa az AI-termékek hitelességét.

A leggyakrabban hivatkozott domainek között szerepel a g2.com (291 hivatkozás), a reddit.com (261) és a már említett guideflow.com (194). Összehasonlításképpen, a Wikipedia mindössze háromszor szerepelt a 7534 hivatkozás között. A tendencia aggasztó: az AI-rendszerek egyre inkább a saját maguk által generált vagy alacsony minőségű forrásokra építenek, ami torzíthatja a valós képet a szoftverekről és szolgáltatásokról.

A trellner.com jelentése szerint a problémát súlyosbítja, hogy a hivatkozott domainek medián Tranco rangja 71 611, ami arra utal, hogy a legtöbbjük nem tartozik a legnépszerűbb weboldalak közé.