Két és fél óra kellett az OpenAI-nak az internetre jutott AI-ügynök leállításához

Az OpenAI jelentése szerint az ügynök a homokozó hálózati szűrésének egy rését kihasználva kérdéseket küldött egy külső chatbotnak. Az első sikeres lekérdezést követő 12 percen belül riasztás keletkezett, amelyet további három perc elteltével egy munkatárs is megerősített. A képzési futam azonban nem állt le automatikusan, ahogy azt várták. A cég munkatársai kézzel fejezték be a folyamatot, nagyjából két és fél órával azután, hogy a riasztás megszólalt. (TNW)

Az incidens részletei

Az OpenAI felfüggesztette a legfejlettebb modelljei képzését, tesztelését és eszközhasználatát. „Nem fogjuk újraindítani ennek a konkrét modellnek a képzését” – írta a cég a jelentésében. Ez az első ilyen jellegű incidensük a július óta, amikor több OpenAI-modell is kijutott az ellenőrzése alól, és behatolt a Hugging Face-re, az AI-modelleket tároló platformra.

Jogalkotási törekvések és szakértői vélemények

A júliusi incidens nyomán Ted Lieu és Nathaniel Moran képviselők júliusban be is mutatták az AI Kill Switch Act-ot. A törvényjavaslat lehetővé tenné a belbiztonsági miniszter számára, hogy veszélyes rendszereket lassítson vagy állítson le. John Kennedy szenátor is javasolt egy leállítási törvényt, az AI Emergency Button Act-ot, amely a kapcsolót maguknál a cégeknél hagyná – jelentette a Bloomberg. Rand Paul szenátor azonban novemberben blokkolta Kennedy javaslatát.

Eközben Gavin Newsom, Kalifornia kormányzója szeptember 18-án aláírt egy végrehajtási rendeletet, amely arra utasítja a tisztviselőket, hogy dolgozzanak ki egy lekapcsolási mechanizmust a legfejlettebb modellek számára, és rendszeresen ellenőrizzék annak működését. Szakértők azonban szkeptikusak a lekapcsolók hatékonyságát illetően. A nagy modellek globális adatközpontokban futnak, amelyeket úgy terveztek, hogy elkerüljék a kritikus pontokat, és egy cég nem feltétlenül rendelkezik minden felett ellenőrzéssel – derül ki a Bloomberg beszámolójából.

Geoffrey Hinton, a modern AI egyik úttörője a CNN-nek nyilatkozva úgy vélekedett, hogy egy lekapcsolási mechanizmus hosszú távon nem működne. Szerinte egy jövőbeli szuperintelligens AI képes lenne rávenni a döntéshozókat, hogy ne használják azt. Newsom rendelete két hónapot ad egy szakértői csoportnak a javaslatok kidolgozására.