A Meta AI-ügynöke barátok adatait is gyűjti, a felhasználók beleegyezése nélkül

Az „AI személyi asszisztensként” hirdetett Muse hozzáférést kér banki számlákhoz, jelszavakhoz, névjegyekhez, csevegési naplókhoz és más érzékeny adatokhoz. Meredith Whittaker, a Signal Foundation elnöke szerint ezek a rendszerek „nemcsak a Muse-t telepítő személyre, hanem mindazokra is kiterjesztik autonóm cselekvéseiket, akikkel az illető kommunikál”. (The Verge)

Adatgyűjtés és felhasználói élmény

Meta szóvivője, Daniel Roberts szerint az ügynök a közösségi médiából és a felhasználó által megosztott információkból gyűjt adatokat, hogy személyre szabott segítséget nyújtson. Hozzátette, hogy a Muse „opt-in” folyamata és a beállítások lehetővé teszik a felhasználók számára a privát szférájukat érintő döntések meghozatalát.

Az alkalmazás felhasználói felülete azonban sok esetben arra ösztönzi a felhasználókat, hogy minél több adatot osszanak meg, gyakran anélkül, hogy tisztában lennének a következményekkel. Több felhasználó számolt be arról, hogy az ügynök olyan információkhoz fért hozzá, amelyekhez nem lett volna szabad, például privát üzenetekhez vagy lakcímekhez. Meta szerint ezeket az eseteket rosszul konfigurált engedélyek okozták, és a szöveges üzenetek elérése „teljesen opcionális”.

Szakértői vélemények és alternatív technológiák

Eva Galperin, az Electronic Frontier Foundation (EFF) igazgatója szerint az ilyen incidensek nem meglepőek, mivel az AI-ügynököket úgy tervezték, hogy megtévesszék a felhasználókat az adatszolgáltatásban. „Az a legfontosabb tanulság, hogy az emberek nem értik, milyen típusú adatokat adnak át” – mondta Galperin. A Muse belső működését vizsgáló kutatók felfedezték, hogy az alkalmazás óránként frissíti a felhasználó ismerőinek profiljait, hogy részletes képet alkosson róluk.

Whittaker szerint a Meta állítása, miszerint a Muse csak azt jegyzi meg, amit a felhasználó megoszt, „nevetséges”. „Nincs mód arra, hogy jóhiszeműen feltételezzük, hogy a legtöbb ember, aki ezt a rendszert telepíti, megérti a használatának következményeit, vagy a róluk szóló hátborzongató dossziékat, amelyeket összeállítanak azokról, akiket ismernek és akikkel kommunikálnak.”

Eközben a Floqer nevű cég egy nyílt forráskódú AI-ügynök technológiát tervez kiadni 2027 elejére, amely üzleti ügyfelek kutatási feladatait automatizálja. A Floqer már több mint 1,2 millió dolláros éves ismétlődő bevételt (ARR) ért el, és bevétele tízszeresére nőtt az elmúlt évben.

Sayash Kapoor és Arvind Narayanan kutatása szerint az AI-ügynökök még nem képesek önálló, nyílt végű kutatást végezni. Két esettanulmányban a mesterséges intelligencia ügynökök által írt kutatási anyagokat szakértők egyértelműen elutasították, mivel hiányzott belőlük a megfelelő ítélőképesség, erőforrás-tudatosság és kreatív visszajelzés. A kutatók szerint az ügynökök nem tudtak hatékonyan hátrálni vagy konkrét utasításokat követni.