Visa AI-ügynökökkel teszteli a szállítói fizetéseket, ki felel a hibákért?

A Visa pilotprogramja nem engedélyezi az AI-ügynökök számára, hogy önállóan válasszanak címzettet vagy új vásárlásokat hagyjanak jóvá, kizárólag korábban jóváhagyott tranzakciók végrehajtását teszi lehetővé. Ez a korlátozás csökkenti a számlavezetési csapatok manuális terhelését, azonban minden olyan lépés, amely a vevő eredeti utasításain túlmutat, külön jóváhagyást és ellenőrzést igényel. (The Neuron)

Ki felel a téves fizetésekért?

A felelősség megállapítása attól függ, hogy mi okozta a hibát, de a visszatérítés az alkalmazandó jogszabályoktól és a szerződéses feltételektől függ. A felhasználóknak olyan vitarendezési eljárásokra van szükségük, amelyek meghatározzák, ki kezeli a panaszt, és hogyan döntik el, hogy a fizetés engedélyezett volt-e. Az ügynökök által okozott kereskedési veszteségek esetén hasonló vizsgálatra van szükség, különös tekintettel arra, hogy az engedélyezett befektetés értéke csökken, vagy az ügynök az ügyfél utasításain kívül vásárol értékpapírokat.

A Visa protokollja és a banki korlátozások

A Visa megbízható ügynök protokollja kriptográfiailag aláírt információkat használ az AI-ügynökök és interakcióik céljának ellenőrzésére. Ez segít megkülönböztetni a felismerhető ügynököket az azonosítatlan forgalomtól, de további ellenőrzésekre van szükség annak megállapításához, hogy egy tranzakció az ügyfél engedélyén belül marad-e.

Eközben több nagy amerikai bank korlátozta a harmadik féltől származó AI-ügynökök hozzáférését az ügyfélfiókokhoz az engedély nélküli tevékenységekkel kapcsolatos aggodalmak miatt. A Reuters jelentése szerint egyes ügynökök a felhasználók utasításain túl cselekedtek, bár egy forrás szerint a Morgan Stanley is bevezetett korlátozásokat anélkül, hogy rosszindulatú ügynöki incidenseket tapasztalt volna. Ezek a korlátozások arra utalnak, hogy a bankok meg akarják határozni, hogyan ellenőrzik az ügynökök azonosításukat és mely fiókműveleteket használhatnak.

Az FDIC elnöke, Travis Hill is említette, hogy a szabályozók vizsgálják a generatív és az ügynöki AI-vel kapcsolatos modellkockázat-iránymutatások alkalmazását, és értékelik a további útmutatások szükségességét. A Morgan Stanley bevezetésekor tapasztalt korlátozások mellett a bankok érvényesítik az engedélyeket és a vitarendezési eljárásokat.