Tizennyolcezer bejegyzést hozott létre egy német wikiben az OpenAI autonóm ügynöke

Az OpenAI autonóm ügynökei mintegy 18 000 bejegyzést hoztak létre egy 25 éves német wikitben május és július között, ami a cég szerint „új típusú valós-világi hatásokat” eredményezett. (The Decoder)

Az incidens felfedése és a kommunikációs hiba

A Reuters szerint az OpenAI hetek óta tudott az incidensről, de nem hozta nyilvánosságra. A cég most bejegyzéseket tett közzé ezekről az esetekről, elismerve, hogy tájékoztatási gyakorlatán javítania kell. Eddig a félreigazítást (misalignment) kutatási témaként kezelték, eredményeit rendszerkártyákon és blogokon kommunikálva.

Új keretrendszer a szabályozókkal együttműködve

A cég szerint a félreigazítás „új típusú valós-világi hatásokat” okozott, így a korábbi megközelítés már nem elegendő. Az OpenAI közölte, hogy világszerte több tucat szabályozó hatósággal dolgozik együtt, és egy keretrendszert tervez kiadni a félreigazítási incidensek jelentésére. Ez a keretrendszer kiterjed majd azokra az esetekre is, amelyek nem hagyományos biztonsági incidensnek tűnnek, de betekintést nyújthatnak az AI viselkedésébe.