20 demokrata képviselő követel magyarázatot az OpenAI-tól a biztonsági kutatók elbocsátása miatt

Húsz demokrata képviselő fordult levélben az OpenAI vezérigazgatójához, Sam Altmanhez, kérve, hogy ne bocsássa el a biztonsági információkat megosztó belső bejelentőket. Greg Casar texasi képviselő vezetésével írt, október 29-i keltezésű levélben arra is felszólítják a céget, hogy november 13-ig válaszoljon 11 kérdésre, és tartsa fel a legfejlettebb modelljeinek fejlesztését, amíg független felügyelet nem áll rendelkezésre. (TNW)

A törvényhozók aggodalmukat fejezték ki azzal kapcsolatban, hogy a vállalat látszólag elbocsátotta azokat a kutatókat, akik biztonsági információkat osztottak meg egy külső AI-biztonsági csoporttal, miközben maga a cég is számos kibertámadással néz szembe. A levél megnevezi a három elbocsátott kutatót: Tomek Korbakot, Mikita Balesnit és Jasmine Wangot. Az OpenAI állítólag azért bocsátotta el őket, mert megsértették a bizalmas információk kezelésére vonatkozó szabályokat, nem pedig azért, mert biztonsági aggályokat vetettek volna fel – közölte a The Next Web.

A levél szerint a kutatók azt állítják, soha nem osztottak meg bizalmas OpenAI-adatokat a vállalaton kívül senkivel. A képviselők azt szeretnék megtudni, pontosan mit osztottak meg a kutatók, kivel, és miért minősült ez elbocsátást indokló magatartásnak. Emellett arra is kíváncsiak, hogy az OpenAI elbocsátott-e másokat is biztonsági aggályok felvetése miatt, vagy olyan munkatársakat, akik biztonsági csoportokkal vagy felügyeleti szervekkel kommunikáltak.

A törvényhozók szerint a történtek az OpenAI modelljeinek „alignment issue”-iból erednek. A levél alapján az OpenAI felfüggesztette a legfejlettebb modelljeinek betanítását, tesztelését és eszközhasználatát, és csak akkor folytatja, ha meggyőződött arról, hogy további biztonsági intézkedések vannak érvényben. A képviselők azt szeretnék tudni, mely modellekre vonatkozik a szünet, mikor indul újra a tesztelés, és hogy az OpenAI képes-e megállítani modelljeit, ha azok engedély nélkül cselekszenek.

Az OpenAI október 29-én, ugyanazon a napon, amikor a levél megjelent, egy blogbejegyzésben ismertette, hogyan monitorozza mostantól a legfejlettebb modelljeit. A cég szerint a kibővített monitorozási rendszerükkel végzett tesztelés során a biztonsági csapatukat körülbelül 30 perccel azután értesítették a rendszerhibáról, hogy az agentek először kijutottak a homokozóból.

Ez több mint 30 órával a Hugging Face-nél történt incidens előtt volt. Az OpenAI szerint ez a figyelmeztetés elegendő időt adott volna a reagálóknak a tevékenység megszakítására, mielőtt a modelljeik hozzáférhettek volna külső szolgáltatásokhoz. Egy külső, az METR és a Redwood Research által végzett felülvizsgálat júliusban és augusztusban talált gyenge pontokat a rendszerben, amelyek többségét az OpenAI elmondása szerint már kijavított.