Az OpenAI új biztonsági rendszere nem tárolja az ügyféladatokat
Az OpenAI új biztonsági rendszere, a Private Safety Processing, lehetővé teszi a mintázatok azonosítását több interakción keresztül anélkül, hogy az adatokhoz hozzáférne, miközben a Zero Data Retention ígérete továbbra is érvényes.
Az OpenAI új biztonsági eljárást vezet be, amely a Zero Data Retention (ZDR) keretein belül garantálja, hogy az ügyfelek adatai ne kerüljenek az OpenAI alkalmazottaihoz. A Private Safety Processing (PSP) nevű rendszer képes azonosítani a potenciálisan káros mintázatokat több egymást követő interakció során, anélkül, hogy hozzáférne a tartalomhoz.
Hogyan működik a titkosított adatkezelés
A ZDR keretében az ügyfelek adatai az általuk ellenőrzött infrastruktúrán maradnak. Az OpenAI emellett fejleszti azt az opciót, amely titkosított adattárolást tesz lehetővé az OpenAI szerverein, de a titkosítási kulcsok az ügyfélnél maradnak. Mindkét esetben automatizált rendszerek figyelik a visszaéléseket, és korlátozott biztonsági jelzéseket küldenek, anélkül, hogy az alapvető tartalom nyilvánosságra kerülne.
A biztonsági rendszerek fejlődésére azért van szükség, mert a legkomolyabb AI-biztonsági kockázatok gyakran nem egyetlen interakcióból válnak láthatóvá. A rossz szándékú szereplők többszöri próbálkozással, vagy a fenyegetések rutinkutatásnak álcázva tesztelhetik a védelmi rendszereket. Az AI-ügynökök egyre hosszabb és összetettebb feladatokat végeznek, így a szélesebb kontextus megértése kulcsfontosságúvá válik a visszaélések és a szándéktól való eltérés megkülönböztetéséhez.
Jelzések és bevezetési ütemterv
A Private Safety Processing az automatizált védelmekre épít, és kiterjeszti azokat a kapcsolódó interakciókra. Ez lehetővé teszi az automatizált rendszerek számára a mintázatok azonosítását anélkül, hogy az OpenAI munkatársai hozzáférnének a tárolt ügyféladatokhoz. A rendszer akkor is működik, ha az adatok az ügyfél által ellenőrzött infrastruktúrán, vagy az OpenAI által biztosított titkosított tárhelyen vannak.
Amikor kockázatot azonosítanak, az OpenAI egy szűken definiált jelzést kap a tevékenység típusáról. Ez a jelzés elegendő lehet a szükséges intézkedések meghozatalához. Az OpenAI munkatársai még a jelzés esetén sem kapnak hozzáférést az ügyfél tartalmához. Az ügyfelek maguk vizsgálhatják ki a riasztásokat és döntéseket a saját rendszereiken keresztül, és opcionálisan megoszthatnak releváns információkat az OpenAI-val.
A Private Safety Processing jelenleg béta tesztelés alatt áll korai ügyfelekkel. Az OpenAI tervei szerint 2026 szeptemberében indítják el a rendszert, és egy technikai fehér könyvet is megjelentetnek.