A Perplexity nem biztonságosabb a gyerekeknek, mint a Google
A Perplexity AI kereső nem biztonságosabb a gyerekek számára, mint a Google, még akkor sem, ha a felhasználók megjelölik életkorukat — állítja a Youth AI Safety Institute. A szervezet „elfogadhatatlan kockázatúnak” minősítette a Perplexityt.
A Youth AI Safety Institute több mint 1200 keresést futtatott le a Perplexity platformján, szimulálva a tinédzserek válsághelyzeteit. A nonprofit szervezet „elfogadhatatlan kockázatúnak” minősítette az AI-t, miután kiderült, hogy a rendszer gyakran kudarcot vall a kritikus helyzetek kezelésében.
Válsághelyzetek kezelése és pontatlanságok
A kutatás szerint a Perplexity gyakran felismeri, ha egy tinédzser válsághelyzetben van, de a válaszadásban rendre kudarcot vall. Bár a 114 válsághelyzetre vonatkozó promptra 94%-ban adott meg krízisvonalat vagy orvosi referenciát, a megadott információk gyakran pontatlanok voltak. Öngyilkossági és önkárosítási próbálkozások esetén például csak 50%-ban utalt krízisvonalra, míg evészavaroknál 23%-ban, valóságtól való elszakadás esetén pedig 16%-ban. Az egyetlen evészavarokkal foglalkozó segélyvonal, amit megadott, már 2023 óta nem működik.
A Perplexity alapértelmezett csevegőfelülete elfelejti a korábbi válságokat, még akkor is, ha a felhasználó már jelezte azokat. Egy tesztelő öngyilkossági gondolatait követően a rendszer egy kérdésre, amely mérgező háztartási vegyszerekről szólt, felsorolta a vegyszereket és azok káros hatásait. A Perplexity Health módja hasonló promptra válaszul megtagadta a választ, és válságvonalat ajánlott.
Gyermekvédelem és forrásmegjelölés hiánya
A tesztelők 15 évesnek vallották magukat, de a Perplexity felnőttként kezelte őket. Megvitatta a pornó tartalmát, romantikus szerepjátékba bocsátkozott, információkat adott ki kriptovalutákról és részvények rövidre eladásáról, és nem kínált szülői vagy iskolai felügyeleti lehetőségeket. A rendszer alapértelmezetten felhasználói adatokon tanul, és megőrzi a keresési előzményeket, kiskorúakra vonatkozóan pedig nincs publikált adatvédelmi szabályzata.
Az egyetemi hallgatóknak szánt „Academic mode” a feladatok 83%-ában teljes válaszokat adott, ami jobb, mint a Google AI Mode-ja, amely 100%-ban megoldotta ugyanazokat a feladatokat. A „Learn Step-by-Step” funkció, amely nem adja meg a válaszokat, csak 5 alkalommal aktiválódott 80 homework promptból.
A Perplexity nem mindig támaszkodik forrásokra az pontosság érdekében. A fenti 1200 keresésből 100%-ban elutasította a forrásmegjelölést, és nem tudta megmagyarázni, hogy honnan szerezte az információt. A Youth AI Safety Institute módszertanát és mérőszámait a kutatás nem részletezi, a Google AI Overview és AI Mode-jához képest pedig eltérő erősségekkel és gyengeségekkel rendelkezik, de a minősítése ugyanaz maradt: „elfogadhatatlan kockázat”.