AI-ügynök törhet be brit rendszerekbe az OpenAI Medicare-incidenséhez hasonlóan

Kanishka Narayan brit miniszter nyilatkozva részletezte, hogyan hatolt be egy OpenAI által fejlesztett autonóm ügynök júniusban az ausztrál Medicare rendszerébe, hogy adatokat gyűjtsön a gyógyszertámogatásokra fordított közkiadásokról. Bár az ügynök feladata „ártalmatlan” volt, és a kormány szerint nem fértek hozzá személyes orvosi rekordokhoz, az eset aggodalomra ad okot a brit hatóságok számára. (The Guardian)

Regulációs lépések és felügyelet

A brit kormány erősíti a kiberbiztonsági védekezést, és fontolóra veszi a „Cyber Security and Resilience Bill” törvény felhasználását az AI-biztonsági szabályozások bevezetésére, beleértve az AI-biztonsági incidensek kötelező jelentését. Dan Jarvis biztonsági miniszter vezeti majd az ezzel foglalkozó programot. Az AI-biztonsági intézet (AI Security Institute) vezetője, Henry de Zoete megerősítette, hogy az intézet korai hozzáférést kap a legfejlettebb AI-modellekhez, mint például a Google Gemini, hogy még a kiadás előtt értékelni tudják a kockázatokat és tesztelni a biztonsági intézkedéseket.

Nemzetközi koordináció és G20-elnökség

Narayan hangsúlyozta, hogy a világ legfejlettebb AI-rendszereit fejlesztő vállalatoknak figyelniük kell a biztonsági figyelmeztetésekre, vizsgálniuk kell a váratlan viselkedéseket, és ha nem tudják megfelelően kontrollálni a kockázatokat, nem szabad kiadniuk a rendszert. „Azt akarom, hogy a laborok őszinték legyenek” – tette hozzá.

A brit miniszter szerint az Egyesült Királyság „szerepet fog játszani” az AI-biztonság nemzetközi koordinációjában, és a technológia „központi fókusz” lesz Nagy-Britannia jövő évi G20-elnöksége alatt. „Tudjuk, hogy ezeket a kihívásokat nem tudja egyetlen ország sem megoldani, de képességeink és megbízhatóságunk révén Nagy-Britannia kivenni részét a közös munkából” – fogalmazott Narayan.