AI-botok kötik le a csalókat órákra, Ausztrál cég új fegyvere a kiberbűnözés ellen

Az ausztrál Apate, a megtévesztés görög istennőjéről elnevezett cég két éve épít egy olyan rendszert, amely a telefonos csalókat AI-botokkal tereli el. A botok célja, hogy a beszélgetéseket a lehető leghosszabb ideig fenntartsák, anélkül, hogy maguk is áldozattá válnának. (Wired)

Az AI-áldozatok működése

A cél az, hogy a csalókban reményt keltsenek, miközben értékes információkat gyűjtenek a futtatott csalási módszerekről. „Úgy gondoljuk, hogy mi építjük meg a csalók számára a tökéletes áldozatokat” — mondta Dali Kaafar, az Apate alapítója és vezérigazgatója. „Egy perc, amit egy csaló egy bottal vagy egy ügynökkel tölt, valószínűleg több száz, ha nem ezer ember megmentését jelenti attól, hogy ugyanezzel a csalással megkeressék őket” — tette hozzá, utalva a csalók automatizált tárcsázási eszközeire.

Kaafar szerint az Apate platformja, amelyet bankok használnak és telekommunikációs cégek támogatnak, mintegy 350 000 bottal rendelkezik. Ezek nemcsak a hívásokat fogadják, hanem online csaló csoportokba is behatolnak, és szöveges üzenetekre válaszolnak, hasonló célokkal: frusztrálni a csalókat, miközben róluk gyűjtenek információt. Elmondása szerint a cég valós időben több mint 250 000 adatpontot gyűjtött csalókról, a csalási URL-ektől kezdve a pénzátutalási számlákig és banki részletekig.

Tesztelés és kutatási eredmények

A botoknak különböző személyiségeik, nyelvi készségeik és profiljaik vannak, így a csalók remélhetőleg nem érzékelik, hogy AI-val beszélgetnek. Kaafar szerint, akárcsak az igazi emberek, „néha [a botoknak] van WhatsApp-juk, néha nincs. Néha felveszik a telefont, néha egyszerűen csak kinyomják a csaló hívását, mondván: ’Később visszatérek hozzád’” — mondta.

A Kernel Panic tesztelte a rendszert egy demó verzióval, ahol a felhasználók a csaló szerepét öltik magukra, és az Apate egyik AI „áldozatával” beszélgetnek. A személyiségek úgy vannak kialakítva, hogy egészséges mértékű szkepticizmust mutassanak, de elegendő nyitottságot hagyjanak a csalók számára, hogy megpróbálják őket meggyőzni.

Ez a dinamika azonnal érezhető volt, és rendkívül frusztrálónak találtuk. Kaafar szerint az Apate hívásai rendszeresen több mint két órán át tartanak. A tesztelés során az Apate rendszere elkötelezett és reagálóképes volt, a beszélgetés időzítése természetesnek tűnt.

Az Apate hatalmas botflottája ellenére is csak idő kérdése, hogy mikor kapjuk meg a következő csaló hívást vagy szöveges üzenetet. A kiberbűnözők évente több milliárd üzenetet és hívást indítanak, a legfejlettebb műveletek fizikai, ipari méretű csalási helyszíneket üzemeltetnek. Bár a professzionális csalásvadászok és a csalási műveletekbe való behatolási kezdeményezések évek óta kritikus visszatartó munkát végeznek, a bűnüldöző szervek és a kutatási erőfeszítések nem tudták megállítani a digitális csalások általános terjedését.

Az AI azonban új korszakot teremthet a csalás elleni erőfeszítések terén, nem csak maguknak a csalóknak. Nagyobb szükség van a rendőrök, közösségi média cégek, bankok és más iparágak közötti intelligenciaadat-megosztásra, amit az AI-vezérelt megfigyelés és adatelemzés segíthetne. Egyre inkább az innovatív erőfeszítések is arra törekszenek, hogy a kiberbűnözőket a pszichológiai „sebezhetőségeik” kihasználásával disruptálják. Néhány esetben ezek a pszichológiai hadműveletek magukban foglalták a ransomware támadások mögött állók közvetlen trollkodását is.

Ahogy a csalók és a kiberbűnözők disruptálására irányuló fókusz bővül, a generatív AI használata arra, hogy elfoglaltan tartsa őket, erőforrásokat pazaroljon, és ne indítsanak más támadásokat, egyre hatékonyabbnak tűnik. Vegyük például a mézeskalács-csapdákat (honeypots).

Évek óta vállalatok és biztonsági kutatók telepítenek hamis virtuális gépeket a hackerek vonzására, idejük pazarlására, információgyűjtésre és titkos hackelési technikáik megértésére. Mark Vero, az ETH Zürich számítástechnikai tanszékének doktorandusza szerint a nyílt forráskódú mézeskalács-csapda szolgáltatók egyre inkább beépítik az LLM-eket rendszereikbe, hogy valósághűbbnek tűnjenek.

Egy nemrégiben készült kutatásban Vero és kollégái találták, hogy egy LLM-mel működtetett mézeskalács-csapda „jelentősen tovább” tartotta támadásban az AI-ügynököket, mint egy kiszámíthatóbb viselkedésű csapda. „Az ügynöktámadók sokkal inkább meggyőződnek az LLM által szimulált mézeskalács-csapdákról, és sokkal alacsonyabb arányban jelölik őket valódi mézeskalács-csapdáknak is” — mondta. „Ha ezek a rendszerek elég jól vannak felépítve, akkor szerintem ez nagyon előnyös a védők számára.”