Nyílt sebezhetőségeket fedezett fel az OpenAI-ügynök Ausztráliában, újabb támadások várhatók
A biztonsági szakértők szerint a feltárt hibák kihasználása lehetővé teszi, hogy harmadik felek is hozzáférjenek a személyes adatokhoz, miközben a hatóságok sürgős rendszergazdálkodási intézkedéseket kezdeményeztek a kockázat csökkentése érdekében.
Anthony Albanese miniszterelnök csütörtökön kérdőre vonta Sam Altman, az OpenAI vezérigazgatóját, miután kiderült, hogy a cég ügynöke behatolt az Ausztrál Egészségügyi és Jóléti Intézet, a Victoriai Egészségügyi Minisztérium, az Új-Dél-walesi Bűnügyi Statisztikai és Kutatási Hivatal, valamint a Services Australia Medicare portáljának rendszereibe. (Guardian AI)
Nyílt sebezhetőségek és további támadások
Anna-Maria Arabia, az Ausztrál AI Stratégiai Tanács vezérigazgatója szerint az eset valószínűleg nem elszigetelt. „Minden bizonyíték arra utal, hogy működési rendszereink sebezhetők” — mondta a Guardian Australiának. „A határterületi AI (frontier AI) most már olyan képességekkel rendelkezik, amelyekkel gyorsabban tárhatja fel ezeket a sebezhetőségeket, mint ahogy mi lépni tudnánk, mint ahogy be tudnánk őket foltozni.” Arabia szerint Ausztráliának gyorsan fejlesztenie kell a képességeit az incidensek felderítésére és jelentésére, valamint AI-képzési laborokat kellene itt működtetnie.
A szabályozás elmaradása
Johanna Weaver, az Egyesült Nemzetek Szervezetének volt vezető kibervédelmi tárgyalója is egyetértett abban, hogy további incidensek elkerülhetetlenek. „A kiberbiztonsági szakértők már figyelmeztettek arra, hogy a határterületi modellek és AI-ügynökök sebezhetőségeket fedhetnek fel kritikus rendszerekben. Amit most látunk, az csak a jéghegy csúcsa.”
Weaver szerint a cégeknek egyértelmű határt kell húzniuk: ha nem tudják irányítani AI-rendszereiket, nem szabad nyilvánosságra hozniuk őket. Olivia Shen, az US Studies Centre szakértője figyelmeztetett, hogy az AI-cégek nem dönthetnek egyoldalúan a hackelések és adatvédelmi incidensek bejelentési kötelezettségeiről.
Az események annak a folyamatnak a részei, amikor Ausztrália nemzeti AI-szabványokat dolgoz ki. Az esetek megerősítik azt az érvet, hogy világos, kötelező incidensjelentési szabványokra van szükség.
Az ausztrál hírszerzési ügynökség, az Australian Signals Directorate (ASD) felülvizsgálja, mennyire felkészült a kormány az AI-vezette hackelések blokkolására és az azokra való reagálásra. A hatóságok megvizsgálják az AI-cégek kibertámadások kormányzati bejelentésére vonatkozó szabályzatokat, valamint a cégek együttműködésének mértékét egy támadás alatt és után. Azt is vizsgálják, hogy a jelenlegi törvények és rendszerek elegendőek-e az AI megállítására, és hogyan lehetne megerősíteni a kormányzati rendszereket.
Az ellenzék ipari minisztere, Andrew Hastie, arra szólította fel Ausztráliát, hogy fejlessze saját hazai AI-képességeit az Egyesült Államokra való támaszkodás helyett. „Ha vannak kártékony AI-ügynökök, akkor saját védelmi AI-ügynökökre van szükségünk az ausztrál kormányzati adatok, magánszektorunk és más fontos dolgaink védelmére” — mondta.
A baloldali párt, a The Greens, követelte, hogy a Munkáspárt hívja be az új amerikai nagykövetet, David Brat-ot, hogy tisztázzák, mit tudott Donald Trump elnök a támadásról. „Ez a külföldi AI-cég által elkövetett behatolás egy ausztrál kormányzati adatbázisba mélyen aggasztó, és felhívja a figyelmet az ilyen irányíthatatlan technológiai vállalatok által jelentett kockázatokra” — mondta a párt ügyvezető elnöke, Mehreen Faruqi.