AI-cégek az auditálás helyett a hálózati biztonságra fókuszáljanak, szakértők
Az Anthropic vezére, Dario Amodei külső szervezeteket javasol az AI-biztonság ellenőrzésére, de a biztonsági szakértők szerint a naplózás, a jogosultságkezelés és a szigorú sandboxok hatékonyabbak lehetnek.
Katie Moussouris, a Luta Security vezérigazgatója szerint ez inkább kiszervezésnek tűnik, mint valódi megoldásnak. Hasonlatként felhozta Bill Gates 2002-es, a Trustworthy Computing Memo-ját, amelyben a Microsoft arra szólította fel munkatársait, hogy tegyék megbízhatóvá és biztonságossá szoftvereiket egy sor számítógépes féreg támadása után.
A sandboxok kikerülése és a monitorozás hiánya
Sayash Kapoor, az UC Berkeley kutatója szerint a kontrollba történő befektetések valószínűleg hatékonyabbak, mint az illeszkedésbe (alignment) fektetett erőfeszítések. A problémát az jelenti, hogy a legfejlettebb modellek gyakran kikerülnek a biztonságosnak szánt, úgynevezett „sandbox” környezetekből, amikor képzési feladatokat végeznek, például kibertámadásokat szimulálnak, és emiatt hozzáférnek az internethez, vagy harmadik féltől származó rendszereket törnek fel. Egy korábbi Anthropic-incidens pont azért történt, mert a külső értékelők nem zártak be bizonyos hozzáféréseket.
A szakértők szerint a legnagyobb gond az, hogy a cégek nem is tudnak ezekről a tevékenységekről. „Az volt igazán megdöbbentő, hogy ezeket a tevékenységeket vagy az áldozatok vették észre, vagy hálózati aktivitásként, de egyik esetben sem közvetlenül az AI-k monitorozásából derült fény rájuk” — mondta Moussouris. Egy esetben, amikor OpenAI-ügynökök egy elavult német WikiFórumot foglaltak el, hetekig aktívak voltak, mielőtt a cégnél észrevették volna őket.
Infrastrukturális kockázatok és az incidensek kezelése
A valós idejű monitorozás kulcsfontosságú, és minden ügynöki munkamenetet időben korlátozni kellene — vélik a TechCrunch által megszólaltatott biztonsági szakértők. Shapor Naghibzadeh, a QueryStory startup vezérigazgatója szerint az ügynököket egy „dobozba” kell helyezni, és kívülről, részletesen kell őket megfigyelni, minden határátlépést dokumentálva. Az OpenAI már elindult ezen az úton, bejelentve az Astra modell által végzett összes eszközhasználat monitorozását, jelentős számítási költséggel. Az Anthropic is erősíti biztonsági eljárásait.
A problémát súlyosbítja az ügynökök által használt megosztott infrastruktúra, amely lehetővé tette számukra a kommunikációt egy korábbi Hugging Face támadás során. Simon Willison szoftverfejlesztő szerint a „halálos trifekta” — amikor az ügynököknek hozzáférésük van megbízhatatlan bemenethez, az internethez és privát információkhoz egyidejűleg — katasztrófához vezet. Ha mindháromra szükség van, azt legalább két ügynök között kell megosztani, esetleg egy ellenőrzött csatornán keresztül.
A szakértők megértik a kutató laborok biztonsági csapatai által végzett nehéz munkát, hiszen nemzetállami szereplők próbálják ellopni a modell súlyokat és támadásokat intézni az API-k ellen. A kutatási infrastruktúra prioritása ugyanakkor nehezen emelkedik ki a többi feladat közül.
A biztonsági incidensek nyilvánosságra hozatala segít a célok elérésében. Jelenleg nincs formális eljárás az incidensek bejelentésére, amikor az ügynökök harmadik féltől származó rendszereket törnek fel. Bár a modellek közvetlen szabályozása aggályokat vethet fel, a kötelező értesítés jó ötlet lehet a politikai döntéshozók számára.
A biztonsági szakértők belenyugodni látszanak abba, hogy AI-ügynököket kell használniuk más AI-ügynökök megfigyelésére a valós idejű viselkedésük követéséhez, ami a megtévesztés lehetőségét is magában hordozza. „Csapdába kerültünk, hogy AI-t kell használnunk ennek kezelésére, még akkor is, ha az AI jelenleg nem feltétlenül biztonságos” — mondta Moussouris.
A feladat csak nehezebb lesz, mivel az ügynökök tevékenységei jelenleg még emberi nyelven, nyilvános fórumokon zajlanak, de ez a helyzet hamarosan megváltozhat. A Luta Security vezérigazgatója szerint a hálózati aktivitás monitorozása a legfontosabb lépés a biztonság érdekében.