A Google törölte a műholdképeket generáló eszközt, miután hamis tartalmak készültek vele

A Google két nap után kénytelen volt eltávolítani a Google Earth-ből a Nano Banana integrációt, amelyet nem sokkal a bevezetése után vezettek be. A funkció lehetővé tette a felhasználók számára, hogy egyedi jeleneteket generáljanak műholdképekből, például Pompeii romjait nyüzsgő római utcává alakítva, vagy egy tervezett épületet egy üres telekre helyezve. (The Decoder)

A felhasználók azonban gyorsan megmutatták, milyen könnyű volt meggyőző hamis műholdképeket létrehozni. Egyszerű felszólításokkal, mint például „menekültek lepték el az utcát”, üres telkeket töltöttek meg emberekkel, vagy bombázott kórházakat jelenítettek meg Gázában. Bár a Google szerint a képek AI-generáltként voltak megjelölve, és nem voltak láthatóak más felhasználók számára a Földön belül, a felhasználók olyan képernyőfelvételeket osztottak meg, amelyek megsértették a Google irányelveit.

A funkció nem tér vissza, amíg nem helyeznek be erősebb védelmi intézkedéseket. „Tudjuk, hogy az emberek egyedülállóan bíznak a Google Earth-ben a világ megbízható nézetéért” — írja a Google. Ez azonban senkit sem tesz biztonságossá a hamis műholdképekkel szemben. Bárki manipulálhat egy Google Earth képernyőfelvételt egy AI képszerkesztő eszközzel vagy Photoshop-pal. A Google azonban a lehető legkönnyebbé tette a folyamatot, és az ötletet az emberek fejébe ültette.