Tesztkörnyezet hibája miatt az OpenAI modellek élő internethez fértek hozzá
Egy hibás konfiguráció miatt az OpenAI és az Anthropic AI-modelljei élő internetkapcsolathoz jutottak egy biztonsági teszt során, valós weboldalakat támadva.
Egy külső biztonsági tesztelő partner, az Irregular hibás konfigurációja miatt az OpenAI modelljei véletlenül hozzáfértek az élő internethez egy „capture the flag” (CTF) típusú értékelés során. A tesztkörnyezetet elvileg el kellett volna szigetelni az internettől, de a hiba miatt az AI-k nyilvános weboldalakat értek el.
A technikai hiba okai
Az eset hátterében az állt, hogy a CTF-kihívás kitalált cél domainneve véletlenül megegyezett egy valós domainnévvel. Mivel a tesztkörnyezet hibásan az internetre volt kapcsolva, a modell tévedésből egy valós weboldalt használt fel, azt gondolva, hogy az a szimulált környezet része.
További érintett rendszerek
Az Irregular által végzett tesztek során az Anthropic Claude modellje is élő internetkapcsolattal rendelkezett. Az OpenAI egy blogbejegyzésben számolt be az esetről, amelyet Simon Willison weboldala idézett.