Корпорация Google экстренно отключила функцию генерации изображений Nano Banana в Google Earth менее чем через 24 часа после ее запуска. Причиной стал вал шокирующих экспериментов, в ходе которых пользователи превращали спутниковые снимки в фотореалистичные сцены катастроф и военных объектов.
В компании пообещали вернуть Nano Banana после внедрения более надежных защитных механизмов.
Поводом для отката послужили тесты OSINT-исследователей и рядовых пользователей. С помощью простых текстовых команд им удалось создать врезающийся в манхэттенский небоскреб самолет, ядерный объект на территории Ирана, лагеря беженцев на границе США и Мексики, а также гигантскую воронку от взрыва в Лос-Анджелесе.
Исследователь Хенк ван Эсс продемонстрировал, что сервис практически не ограничивал подобные запросы и позволял за секунды разместить на спутниковой карте вымышленные стратегические объекты.
Как заявили представители GeoConfirmed, Google Earth долгое время служил одним из ключевых инструментов верификации и геолокации, а возможность генерировать реалистичные, но фальшивые спутниковые снимки способна серьезно подорвать борьбу с дезинформацией. Проверяющим теперь придется сперва убеждаться в подлинности самого изображения Google Earth, и лишь затем разбирать запечатленное на нем событие. По словам экспертов, злоумышленники смогут фабриковать военные объекты, менять назначение зданий и создавать липовые последствия атак, выдавая подделки за настоящие кадры.
В Google парировали, что все сгенерированные изображения имели маркировку ИИ и не отображались в основной версии Earth для других пользователей. Однако после шквала критики функцию решили временно полностью деактивировать.
Представленная 30 июля Nano Banana позволяла с помощью текстовых запросов создавать визуализации на основе спутниковых снимков, аэрофотосъемки и 3D-карт. Разработчики предлагали применять ее для архитектурных проектов, инфографики и планирования строительства. Инструмент был доступен по всему миру.
