SpaceX-vezetőt hallgatott meg a New York-i Tanács a Grok szexuális képei miatt
Gabriela Castillo Madrid, a SpaceX globális kormányzati ügyekért felelős AI-vezetője pénteken a New York-i Tanács előtt felelt a Grok szexuális képgenerálási képességeiről. A tanácsülésen a testület elnöke, Julie Menin is szembesítette a céget.
Menin közvetlenül azután kérdezett rá a biztonsági intézkedésekre, hogy Castillo Madrid azt állította, a cég megfelelő „védelmi rendszereket” helyezett üzembe az AI-termékei körül. „Teljesen visszautasítom ezt” — mondta Menin. „Már ma reggel — én és a csapatom — a saját nevünket, a saját nevemet tettük be a Grokba, és ott volt magamról egy szexuális tartalmú kép. Tehát hogyan lehetséges, hogy egy másodperc alatt találtam egy szexuális tartalmú képet magamról a Grok segítségével?” (CNBC)
A tanács tagjai reakciói és a cég válasza
Castillo Madrid válaszként elmondta, hogy a cégnek „szigorú ellenőrzései” vannak, és a biztonsági csapatuk meg fogja vizsgálni az adott esetet. Carmen De La Rosa, a tanács technológiai bizottságának vezetője pedig közölte Castillo Madriddal, hogy „undorító”, hogy a Grok lehetővé teszi a felhasználóknak, hogy valós nők képeit beleegyezésük nélkül „szexuálissá” tegyék. „Egyszerűen nem értem, hogyan mondhatja, hogy vannak ilyen biztonságos modellek” — tette hozzá Menin. „Ez egyszerűen elfogadhatatlan.”
A meghallgatás előzményei és a belső vizsgálat
A SpaceX, Elon Musk űrkutatási, védelmi technológiai és AI-cége eredetileg elkerülte a városi tanács kéréseit és idézését, hogy megjelenjen egy múlt héten tartott törvényhozási vizsgálaton és meghallgatáson más AI-cégek, köztük az OpenAI, az Anthropic, a Google és a Meta vezetőivel együtt. A SpaceX a héten egyezett bele a tanúskodásba, miután a tanács azzal fenyegetőzött, hogy bírói úton érvényesíti az idézést.
A tanács vizsgálata az elmúlt hónapban zajló intenzív vita nyomán indult a fejlett AI-modellek által jelentett kockázatok körül, és a vizsgálat során feltárt tanúvallomások és információk felhasználásával új szabályozásokat kívánnak kialakítani. A tanácsülésen Devin Kim, a SpaceX egyik volt alkalmazottja is tanúskodott, aki szerint a cégnél korábbi sztenderdek szerint „az ízléses meztelenség elfogadható volt, és ez volt a cél”. Kim szerint a cégnél az ő távozása után mindössze három alkalmazott foglalkozott AI-biztonsággal, és többen közülük el is hagyták a vállalatot.