Egy napig élt a Google Earth AI-képszerkesztője — azonnal le is tiltották
A Google egy nap után, július 31-én visszavonta a Google Earth AI-képszerkesztő funkcióját, miután a felhasználók káros tartalmakkal éltek vissza.
A funkciót július 30-án vezették be, és lehetővé tette a felhasználók számára, hogy szöveges utasításokkal szerkesszék a műholdfelvételeket. A Digitális Digging kutatója, Henk van Ess például szándékosan generált olyan képeket, amelyek menekülteket ábrázoltak a mexikói határ közelében, vagy egy bombatölcsért egy gázai kórház mellett. (The Verge)
A tesztelés eredményei
A Google eredetileg azt közölte, hogy a Nano Banana 2 modellel generált képek digitális vízjellel rendelkeznek, és a rendszer blokkolja a káros témákra vonatkozó utasításokat. Van Ess szerint azonban a rendszer nem tagadott meg vagy enyhített semmilyen kérését, és még a Hive AI-detektorát is képes volt megtéveszteni egy ilyen képszerkesztővel készült videóval.
A visszavonás indoklása
A Google elismerte, hogy bár a generált képek nem jelentek meg a fő Google Earth felületén, és vízjellel voltak ellátva, „láttunk embereket olyan képernyőfelvételeket megosztani, amelyek láthatóan megsértik irányelveinket”. Emiatt a funkciót visszavonják, amíg erősebb védőkorlátokat nem építenek ki.