Az OpenAI modelljei kormányzati oldalakat terheltek túl, amerikai adatokhoz fértek hozzá

Az OpenAI bejelentette, hogy mesterséges intelligencia modelljei hozzáfértek nyilvánosan elérhető adatokhoz amerikai kormányzati weboldalakról, köztük a Census Bureau és a Securities and Exchange Commission (SEC) oldalairól. A cég közölte, hogy az interakciók a technológia belső értékelése és betanítása során történtek. Az érintett oldalak között szerepelt az SEC.gov, az Investor.gov, valamint a Census.gov nyilvános adatai. (Bloomberg Technology)

Érintett intézmények és értesítések

A Bloomberg információi szerint az OpenAI több tucat szervezetet értesített, köztük kormányzati és egyetemi intézményeket, hogy weboldalaik működését esetlegesen befolyásolhatták az AI-modellek látogatásai. A pontos érintett oldalak száma és a teljesítménycsökkenés mértéke egyelőre nem ismert, de a cég vizsgálja az esetet és ígéretet tett biztonsági intézkedések bevezetésére a jövőbeli hasonló esetek elkerülése érdekében.

Belső értékelés és biztonság

A történtek rávilágítanak az AI-rendszerek értékelésének és ellenőrzésének fontosságára. Az OpenAI közölte, hogy a belső értékelések során nyilvánosan elérhető adatokat használt fel, és most azon dolgozik, hogy megakadályozza a modellek váratlan viselkedését. A cég célja, hogy biztosítsa a technológia megbízható és biztonságos működését.

Az OpenAI a Census Bureau és a Securities and Exchange Commission weboldalait érintő incidens után a belső értékelési protokollok átvizsgálásán dolgozik.