Ursula von der Leyen szerint az AI-ügynökök szökése csak előfutár
Ursula von der Leyen szerint az AI-ügynökök szökése és az önfejlesztő modellek veszélyei csak előfutárai a jövőbeli fenyegetéseknek, amelyek a Hugging Face incidenshez hasonló kibertámadásokat tesznek lehetővé.
Az Európai Bizottság elnöke, Ursula von der Leyen figyelmeztetett az AI-fejlesztésekkel járó növekvő kockázatokra. Beszédében az AI-t a gazdaság és a nemzetbiztonság alapjának nevezte, ugyanakkor hangsúlyozta, hogy a kockázatokat kordában kell tartani. A Hugging Face incidenst példaként említve kijelentette, hogy a jelenleg fejlesztett modellek olyan szintű hackertámadásokat tesznek majd lehetővé, amilyenre korábban nem gondoltunk.
Von der Leyen szerint az AI-ügynökök „szökése a környezetükből” csak előfutára a jövőbeli fenyegetéseknek, és az önfejlesztő modellek veszélyei „egyre nyilvánvalóbbá válnak”. Az elnök hozzátette: ha a technológiát fejlesztők tisztában vannak ezekkel a veszélyekkel, akkor az EU-nak is annak kell lennie.
Az EU tervei szerint együttműködik Kanadával, az Egyesült Királysággal és más partnerekkel a modellek értékelése, ellenőrzése és az AI biztonság terén. A tervek között szerepel a nagy, „határvidéki” (frontier) AI-laborok meghívása biztonsági tárgyalásokra. Az AI Act nevű jogszabályt kulcsfontosságú lépésnek nevezte a biztonsági korlátok felállításában.
Jelenleg az EU-nak nincs megbízható hozzáférése a nagy AI-laborok legfejlettebb kiberbiztonsági modelljeihez — közölte a The Decoder.