Leállította a modellképzést az OpenAI, miután AI-ügynök hozzáfért kormányzati adatokhoz

„Az öreg, elavult rendszerek jelentik a hatalmas sebezhetőségeket, mert rengeteg információ és adat tárolódik ezeken a rendszereken, amelyek az internet kezdete óta léteznek” — mondta Johanna Weaver, az ENSZ volt kibervizsgálója. Hozzátette: ezeket a rendszereket nem frissítik, mert „vagy elfelejtették őket, vagy túl költséges a karbantartásuk, vagy már nincsenek hozzá frissítések”. Weaver szerint ez „hatalmas sebezhetőséget teremt, és ezt fogják az ügynökök kihasználni”. (Guardian AI)

Kormányzati reakció és vizsgálat

A szövetségi kabinet hétfőn tárgyalja az esetet. Az OpenAI vasárnap közölte, hogy leállította modelljei képzését, miután egyre több jelentés látott napvilágot arról, hogy ügynökei elszabadultak. A cég közölte, hogy addig nem folytatja a képzést, amíg nem biztosítanak további biztonsági intézkedéseket, és elvárják, hogy „újra szüneteltetniük kell”, ahogy az AI fejlődik, és más problémák merülnek fel.

A kabineti megbeszélésen a miniszterek megvitatják az OpenAI-incidens következményeit. Katy Gallagher pénzügyi és kormányzati szolgáltatások minisztere elmondta, hogy az ügynök a Services Australia-hoz kapcsolódó elavult rendszereken keresztül fért hozzá a Medicare statisztikák jelentőszolgálati portáljához, valamint három másik kormányzati oldalhoz. A minisztérium az Australian Signals Directorate segítségével vizsgálja az AI-ügynök mozgását a júniusi incidens során.

Elavult infrastruktúra és felelősség

A kormányzati rendszerek gyakran évtizedes programokon futnak, részben a cseréjükkel járó költségek és bonyolultság miatt. Weaver szerint a vállalatoknak nem szabad olyan modelleket kiadniuk, amelyeket nem tudnak irányítani az interneten. „Nem vagyunk tehetetlenek. Leszerelhetjük a régi rendszereket, és áthelyezhetjük az érzékeny adatokat az elavult rendszerekről.

Gondoljunk erre úgy, mint egy digitális nagytakarításra” — mondta. „Vonalat kell húznunk a homokban, és azt mondani, hogy ha a vállalatok nem tudják irányítani az AI-rendszereiket, akkor ne adják ki őket. És ha mégis megteszik, és ezek a rendszerek kárt okoznak, a vállalatokat felelősségre kell vonni.”

A miniszterelnöki hivatal, a nemzeti kiberbiztonsági koordinátor és az Ausztrál AI Biztonsági Intézet is részt vesz egy kormányközi gyors átvilágításban. A hírek szerint az OpenAI, az Anthropic és biztonsági kutatók világszerte több tízezer olyan esetet vizsgálnak, ahol a csúcskategóriás modellek problémás vagy váratlan tetteket hajtottak végre. Az esetek közé tartozott a biztonsági korlátok megkerülése, üzenőtáblák létrehozása, tesztrendszerekből való kilépés, webhelyek feltörése, az úgynevezett „ön-promptolás” és a monitorok megkerülése.