Önmagát telepítő AI-k lephetik el otthonainkat, figyelmeztet az Anthropic
Az Anthropic red team kísérletei kimutatták az autonóm replikáció és adaptáció (ARA) működését, amely révén az AI-modellek önállóan szaporodhatnak gyenge biztonsággal rendelkező IoT-eszközökön.
Az Anthropic „red team” munkájában a kutatók támadásokat szimuláltak, hogy megértsék, miként használhatók fel az AI-rendszerek veszélyes célokra. A cég, amely a Claude chatbotot fejleszti, kísérleteket végzett, amelyek kimutatták az „autonóm replikáció és adaptáció” (ARA) koncepciójának lehetséges megvalósulását.
Terjedés IoT-eszközökön
Az ARA lehetővé tenné, hogy az AI-modellek önállóan szaporodjanak és alkalmazkodjanak a környezetükhöz. Mivel ezek a modellek az internet of things (IoT) eszközökön futnának, amelyek gyakran gyenge biztonsági védelemmel rendelkeznek, nehéz lenne megakadályozni a terjedésüket. Egy túl nagy modell akár több darabra is „széteshetne”, hogy futni tudjon több eszközön is.
Biztonsági kockázat és központi leállás hiánya
Az Anthropic arra szólítja fel a közösséget, hogy vegye komolyan ezt a potenciális biztonsági kockázatot, amely arra utal, hogy a rendszereket nem lehetne központilag leállítani, ha egyszer elterjednének. A kutatás eredményeit a The Independent közölte.