Google начала откатывать генерацию изображений в Google Earth меньше чем через сутки после запуска функции. Повод простой: пользователи успели собрать слишком правдоподобные спутниковые снимки и выдавали их за настоящие.
Компания подтвердила, что временно отключает Nano Banana image generation in Google Earth и вернёт её только после доработки защитных механизмов. В Google прямо сказали, что доверие к Earth для них особенно чувствительно: сервис многие воспринимают как источник «надёжного взгляда на мир».
Проблема всплыла почти сразу после анонса 30 июля. 404 Media показала, что инструмент без особого труда позволяет рисовать на карте воронки от взрывов, добавлять толпы протестующих и менять смысл снимка так, будто перед вами настоящий спутниковый кадр. Сначала Google напомнила про цифровой водяной знак SynthID и подсказки через Gemini и Lens, потом сменила тон и пообещала ужесточить ограничения перед повторным запуском функции.
Для Google Earth это болезненная история. Сервисом пользуются не только любители конспирологии и мемов, но и геопространственные специалисты, которым нужны точные карты, привязка объектов и нормальные данные для работы. И вот тут любая подмена особенно заметна: рядом с обычным снимком появляется сгенерированный «доказательный» кадр, и граница между визуализацией и подделкой начинает расплываться буквально в один клик.
Google не впервые пытается пристроить генеративный ИИ в массовый продукт и не впервые сталкивается с тем, что пользователи разворачивают его против самой платформы. У компании есть SynthID, который она продвигает как способ маркировать созданные ИИ изображения, но одного водяного знака мало, если снимок легко вырвать из контекста и показать как «фото со спутника».
На рынке это уже знакомая проблема. В X, Meta* и других крупных сервисах модераторы тоже регулярно ловят визуальный контент, который выглядит как документальный, хотя собран нейросетью за минуту. На фоне избирательных кампаний, войны в новостной повестке и роста дипфейков такие промахи для платформ с массовой аудиторией стоят дорого: сначала люди верят картинке, а потом уже вспоминают, что проверять её стоило раньше.
Теперь остаётся посмотреть, как именно Google перепишет ограничения и сколько времени у неё уйдёт на возвращение функции. Если защита останется мягкой, историю быстро припомнят снова. Если же компания закрутит гайки сильнее, генерация в Earth вернётся уже не как удобная опция, а как пример того, насколько осторожно Google теперь обращается со своим ИИ.
* Принадлежит компании Meta, она признана экстремистской организацией в РФ и её деятельность запрещена.