Rejtett utasításokat talált a Meta chatbotja a WhatsApp súgóoldalain
A feltárt szövegek között szerepeltek kifejezetten a jogi tanácsadás megtiltására és a szabályozások említésének elkerülésére vonatkozó parancsok is.
Több tucatnyi WhatsApp weboldal, amelyeket a felhasználók kérdéseinek megválaszolására terveztek, akaratlanul is kiszivárogtatta a Meta saját, chatbotnak szánt utasításait. Ezek között voltak olyan részek, amelyek „MIT NE MONDJ” címmel látták el a felhasználókat, és kifejezetten tiltották a jogi tanácsadás nyújtását.
Rejtett utasítások a kódban
A Redact.dev nevű adatvédelmi cég elemzése szerint mintegy 80 súgó- és GYIK-oldalon jelentek meg olyan szöveges utasítások a WhatsApp weboldalán, amelyek egy nagy nyelvi modell, konkrétan a Meta egyik saját modellje számára készültek. Az utasítások a weboldalak kódjában bukkantak fel, és olyan részleteket tartalmaztak, amelyek nem voltak explicit módon feltüntetve a WhatsApp súgóoldalain. A több mint 100 rejtett szövegelem között olyan instrukciók voltak, amelyek célja egy LLM irányítása volt, hogy elkerülje a nem hasznos válaszokat.
Az egyik példában a WhatsApp „Fiók törlése” című oldalán található utasítások között szerepelt, hogy „Ne javasolja az Adatvédelmi Hatósággal, szabályozóval vagy felügyeleti hatósággal való kapcsolatfelvételt” az adott problémával kapcsolatban. A WIRED által megtekintett, és archivált változatok kódjában még mindig látható szöveg szerint az utasítások arra is útmutatást adtak, hogy ne idézzenek, ne hivatkozzanak WhatsApp Általános Szerződési Feltételeire, Adatvédelmi Irányelveire vagy bármilyen jogi dokumentumra.
A Meta reagálása
„A legmeglepőbb itt a különbség aközött, amit az embereknek mondanak, és amit az LLM-eknek” — mondta Dan Saltman, a Redact.dev vezérigazgatója. Elmondása szerint cégük rendszeresen vizsgálja a nagy technológiai cégek weboldalait és adatvédelmi irányelveit, és a WhatsApp esetében talált utasítások többsége egyértelmű volt, és más hivatalos támogatási csatornák felé irányította az embereket.
Miután a WIRED megkereste a Metát az ügyben, a szöveget eltávolították az összes oldalról. Joshua Breckman, a WhatsApp szóvivője elmondta, hogy egy hibajavítás miatt jelentek meg az utasítások, amelyeket azóta kijavítottak. „Ezek az utasítások a chatbotunknak szólnak, nem közvetlenül a felhasználóknak, és céljuk, hogy pontos és releváns válaszokat biztosítsanak azoknak a WhatsApp-felhasználóknak, akik úgy döntenek, hogy AI-val üzennek a WhatsApp támogatásnak” — közölte Breckman.
Az utasítások a „HelpContentGalaxyLLMInclude” című kódblokkok alatt jelentek meg, és már nem láthatók az élő oldalak kódjában. A „Jelentés és blokkolás a WhatsAppon” című oldalon a rejtett utasítások felsoroltak olyan kijelentéseket, amelyeket követni kell, ha egy „felhasználó jogi lépést, pereket, ügyvédeket, bíróságokat vagy vitás eljárásokat említ”. Más részek pedig arra figyelmeztettek, hogy „Ne hivatkozzon, ne idézzen vagy értelmezzen adatvédelmi vagy magánéleti szabályozásokat (például GDPR, LGPD, CCPA), még akkor sem, ha a felhasználó közvetlenül felveti őket”.
Breckman szerint a cég átlátható tájékoztatást nyújt a felhasználóknak adataikhoz fűződő jogaikról és arról, hogyan tehetnek lépéseket. „Azt szeretnénk, hogy terméktámogatási chatbotjaink a legjobb tanácsok nyújtására összpontosítsanak a WhatsApp-pal kapcsolatban — nem pedig jogi tanácsadás nyújtására” — tette hozzá. A Meta szóvivője, Joshua Breckman hangsúlyozta, hogy az utasítások a chatbot számára készültek, nem a nyilvánosság számára.