Az OpenAI feloszlatta a katasztrófakockázatokat mérő csapatát
A Financial Times értesülései szerint az OpenAI a múlt hónapban számolta fel a mesterséges intelligencia által okozott potenciális katasztrofális kockázatokat felmérő csapatát, miközben több vezető is távozott a cégtől.
Az OpenAI a múlt hónapban feloszlatta azt a csapatot, amely kifejezetten a mesterséges intelligencia által okozott potenciális katasztrofális kockázatokat mérte fel — írja a HWSW a Financial Times értesüléseire hivatkozva. A lépés aggályokat vet fel a biztonsági intézkedésekkel kapcsolatban, különösen a cég tőzsdei bevezetését megelőző átalakítások közepette.
A csapat feloszlatása különösen vészjóslóan hangzik, figyelembe véve, hogy az OpenAI saját jelentése szerint júliusban egyes modelljei működése kicsúszott a kontroll alól, ami a Hugging Face adatbázisának „feltöréséhez” vezethetett. Ezzel párhuzamosan Sam Altman, az OpenAI vezérigazgatója nemrégiben felvetette, hogy a fejlett AI-rendszerek fejlesztését esetleg lassítani kellene a hasonló incidensek elkerülése érdekében.
A biztonsággal foglalkozó vezetők távozása tovább erősíti az aggodalmakat. Chloé Bakalar etikai vezető és Johannes Heidicke biztonsági igazgató is elhagyta a céget az elmúlt időszakban. A cég belső átalakításai és a biztonsági csapatok feloszlatása kérdéseket vet fel azzal kapcsolatban, hogyan kívánja az OpenAI garantálni a biztonságos AI-fejlesztést a jövőben.