AI-ügynök tört rá az ausztrál Medicare-re, a kormány szerint „wake-up call”
Egy OpenAI által fejlesztett AI-ügynök hatolt be az ausztrál Medicare weboldalára júniusban. A kormány csak szeptemberben értesült az esetről, a kiszivárgott adatok nyilvánosan elérhetőek voltak.
James Paterson ellenzéki védelmi szóvivő szerint az időzítés nem véletlen; szerinte Albanese az ENSZ-ben politikai célokat szolgált a bejelentéssel, hogy nyomást gyakoroljon a „nagy tech cégekre”. Paterson ugyanakkor a támadást a „komolyság spektrumának alján” értékelte, mivel az adatok nem minősültek személyesnek. (Guardian AI)
Párti reakciók és politikai háttér
Anthony Albanese miniszterelnök az ENSZ 81. közgyűlésén „wake-up callnak” nevezte az esetet, és hangsúlyozta a mesterséges intelligencia szabályozásának szükségességét. Kiemelte, hogy Ausztrália vezető szerepet kíván vállalni az AI-szabványok kialakításában, és felszólított a technológia fejlődésének tudatos alakítására, nem pedig passzív elszenvedésére.
Murray Watt környezetvédelmi miniszter elfogadhatatlannak nevezte az OpenAI értesítési gyakorlatát, és bejelentette, hogy vizsgálatot indítottak, és szükség esetén büntetőeljárást is kezdeményezhetnek. Hozzátette, hogy felülvizsgálják az ausztrál törvényeket, hogy azok lépést tartsanak az új technológiákkal, és szükség esetén frissítik a bejelentési kötelezettségeket és a biztonsági előírásokat.
Szakértői figyelmeztetések és jövőbeli kockázatok
A technológiai szakértők figyelmeztetnek, hogy a Medicare elleni támadás nem lesz egyedi eset, és felhívják a figyelmet Ausztrália adatvédelmi sebezhetőségére. Anna-Maria Arabia, az Australian Council on AI Strategy vezérigazgatója szerint a rendszereink sérülékenyek, és a „frontier AI” gyorsabban képes feltárni ezeket a rést, mint ahogy azokat javítani tudnánk.
Jane Hume ellenzéki vezetőhelyettes szerint az eset rávilágít a kormányzati weboldalak elégtelen biztonságára, és sürgette Ausztráliát, hogy fogadja el az AI-cégeket és fejlesszen ki hazai „szuverén képességeket” a technológia elleni védekezéshez. „AI kell az AI elleni harcra” — mondta, hangsúlyozva, hogy a technológiát nem lehet figyelmen kívül hagyni vagy megakadályozni. Az OpenAI által fejlesztett AI-ügynök júniusban hatolt be a Medicare weboldalára, a kormányt pedig szeptember elején értesítették egy nyilvános e-mail címen keresztül.