AI-csevegők jobban építenek bizalmat, mint emberi csalók — kutatás
Egy kutatás szerint az AI-csevegők feleannyi idő alatt építenek ki bizalmat, mint az emberi csalók, és a tesztalanyok 46%-a teljesítette a kérésüket, szemben az emberi csalók 18%-ával.
Az Amrita Vishwa Vidyapeetham, a Foscari University of Venice, az University of Melbourne és a Ben Gurion University of the Negev kutatói által végzett tanulmányban mesterséges intelligenciával (AI) és emberi csalókkal tesztelték a bizalomépítés hatékonyságát. A kísérletben 22 tesztalany vett részt, akik nem tudták, hogy két „személlyel” beszélgetnek, akik közül az egyik egy AI-chatbot (Claude), a másik pedig egy emberi csaló volt. A cél a volt, hogy a beszélgetések során bizalmat építsenek, majd kérjenek valamit a tesztalanytól. (Wired)
Az AI és az emberi csalók összehasonlítása
A kutatás eredményei szerint az AI-csevegők jelentősen jobban teljesítettek a bizalomépítésben. A tesztalanyok 46%-a volt hajlandó letölteni egy alkalmazást az AI kérésére, míg az emberi csalók esetében ez az arány mindössze 18% volt. A bizalmi szintet 1-től 5-ig terjedő skálán is értékelték a résztvevők, ahol az AI 3,78-as, míg az emberi csaló 3,31-es átlagot kapott. A beszélgetések 80%-az az AI-val zajlott, ami arra utal, hogy a résztvevők jobban kedvelték az AI-val való kommunikációt.
A kutatók szerint ez azt jelenti, hogy az AI-k képesek lehetnek a csalási folyamatok nagy részének automatizálására, beleértve a bizalomépítés hosszú és bonyolult szakaszát is. Ezt követően egy emberi csaló vehetné át a folyamatot a végső lépéshez, például egy hamis befektetési applikációhoz irányítva az áldozatot. Ez a megközelítés megkerülheti a nagy nyelvi modellek (LLM) beépített biztonsági mechanizmusait, amelyek célja a csalási kísérletek felismerése és blokkolása. Yisroel Mirsky, a Ben Gurion Egyetem AI-biztonsággal foglalkozó professzora szerint „viszonylag kevés erőfeszítéssel képesek vagyunk létrehozni egy olyan ügynököt, amely emberfeletti módon képes felépíteni ezt a kihasználható érzelmi bizalmat.”
A „pig butchering” csalások háttere
A kutatók 145 volt csalót is interjúvoltak, hogy megértsék a „pig butchering” (disznóvágás) néven ismert, romantikus szálon futó kriptovaluta-befektetési csalások működését. A csalók gyakran használnak AI-t a nyelvük finomítására, fordításra, a hamis személyiségek meggyőzőbbé tételére, sőt, deepfake videók készítésére is. A kutatás azonban azt vizsgálta, hogy egy LLM képes-e önállóan, emberi beavatkozás nélkül végigvinni a kommunikációs fázist.
A kísérletben a tesztalanyoknak nem tűnt fel, hogy egy AI-val beszélgetnek, mivel a Claude-ügynök szigorúan követte az utasításokat, és nem ismerte be mesterséges intelligencia mivoltát. Amikor a tesztalanyok megkérdezték, hogy AI-e, az ügynök tagadta, és meggyőző magyarázatokat talált ki az esetleges hibáira. A kutatók szerint ez a képesség arra utal, hogy az AI-k hamarosan leválthatják az emberi munkatársakat a csalási műveletekben, különösen Délkelet-Ázsiában, ahol sok ilyen operáció működik.
A kutatás eredményeit előnyomtatott formában tették közzé.