Barátaidról és családtagjaidról gyűjt adatot a Meta új AI-asszisztense

A Muse belső fájljait és működési utasításait a szokásos csevegőfelületen keresztül kérte ki Karan Joshi, független AI-biztonsági kutató. A Meta szerint ezeket a fájlokat szándékosan tették hozzáférhetővé az átláthatóság érdekében. Az egyik utasítás szerint a Muse képes „az élet minden személyére oldalt létrehozni”, ami óránkénti adatgyűjtést jelent a családtagokról, partnerekről, barátokról és kollégákról.

Kapcsolati profilok és adatgyűjtés

A Muse „memóriáját” használva gyűjti az információkat a kapcsolatokról és az élet fontos személyeiről. Ezt követően javaslatokat tehet, például hogyan javíthatók bizonyos kapcsolatok, vagy hol lehet reggelizni egy kávéimádó baráttal. A Muse dokumentációja szerint egy profil kezdetben „szellős” lehet, és idővel töltődik ki, potenciálisan olyan szakaszokkal, mint Tények, Történet, A kapcsolat, Közös pontok, Nyitott szálak és Erősítés.

A Meta utasításai szerint a Muse csak a rendelkezésére álló „bizonyítékokat” használhatja, és a kitalált részletek rosszabbak, mint egy üres oldal. Az utasítások kitérnek arra is, hogy a modell rögzítheti a „fontos dátumokat”, például születésnapokat vagy évfordulókat, valamint a kapcsolatok részleteit, mint például „milyen közel vannak egymáshoz, miből épül fel, hogyan viselkednek egymással, és minek tűnik, hogy most szükségük van rá”.

Adatvédelmi aggályok

„Több információt adunk az AI-rendszereknek magunkról, mint amennyit kapunk tőlük” – mondja Carissa Véliz, az Oxfordi Etikai Intézet munkatársa. „Nemcsak azt, amit kifejezetten elmondunk nekik, hanem azt is, amit következtetnek belőlünk – helyesen vagy helytelenül –, és amit más adatforrásokból összerakhatnak.”

A Muse úgy van felépítve, hogy minden felhasználó saját virtuális géppel rendelkezik, amely tárolja az adatait és a kontextust. Ezt a virtuális gépet más ügynökök nem érhetik el, és a felhasználók bármikor törölhetik az emlékeket vagy leválaszthatják a külső szolgáltatásokat. A Meta szerint a Muse emberi megerősítést is kér, mielőtt olyan cselekvéseket hajt végre, mint egy e-mail küldése vagy vásárlás, és audit naplóval rendelkezik, ahol a felhasználók láthatják az ügynök minden tevékenységét és jövőbeli terveit.

„Ahhoz, hogy egy ügynök hasznos legyen és segítsen elérni a céljaidat, kontextusra van szüksége rólad és azokról, akikkel kapcsolatban állsz” – nyilatkozta Daniel Roberts, a Meta szóvivője a WIRED-nek. „A Muse ezt nyilvános információkból és abból gyűjti, amit megosztani választottál.”

Miranda Bogen, a Center for Democracy and Technology AI Governance Lab igazgatója szerint a Muse jobban összpontosít a kapcsolatokra és a személyes kontaktokra, mint a rivális rendszerek.

Bogen megjegyzi, hogy az ilyen eszközök proaktívabb adatmegosztásra ösztönzik a felhasználókat. „Ezek az AI asszisztens eszközök aktívan kérik a felhasználókat, hogy dugják be az egész életüket – e-mailjeiket, naptáraikat, pénzügyi intézményeiket, mindent –, hogy hasznos segítséget nyújtsanak” – mondja Bogen. „Ez drámaian több információt jelent, mint amit az emberek egyébként is megadtak volna ezeknek a cégeknek.”