Компания Google допустила ошибку, добавив Nano Banana в Google Earth.

На прошлой неделе Google запустила свою модель генерации изображений на основе искусственного интеллекта, Nano Banana 2 , в рамках программы исследования мира Google Earth. Компания рекламировала эту интеграцию как способ создания инфографики о различных местах по всему миру или генерации исторических ландшафтов на основе недавних изображений. Пользователям также предлагалось создавать свои «дома мечты» на реалистичном фоне — если вы планировали пристройку к дому или мечтали о дачном домике на берегу озера, вы могли визуализировать их с помощью Nano Banana 2 в Google Earth.

Эта новость появилась на фоне стремления Google интегрировать свои платформы искусственного интеллекта практически во все свои продукты и услуги (например, на прошлой неделе компания добавила новые возможности Gemini в Google Docs для пользователей Workspace). С точки зрения компании, добавление Nano Banana 2 в Google Earth было вполне логичным шагом. Однако, как выяснилось позже, эта интеграция не очень хорошо подходила для Google Earth.

Google Earth уже выпускает Nano Banana 2.

Всего через день после запуска этой масштабной интеграции для Nano Banana 2 компания Google отозвала её . Компания опубликовала обновлённую версию своего первоначального объявления, заявив: «Мы понимаем, что люди доверяют Google Earth как авторитетному источнику информации о мире. Мы заметили, что специалисты в области геопространственных технологий используют эту функцию для множества полезных целей; однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы удаляем эту функцию из Google Earth, пока работаем над внедрением более строгих мер контроля. Важно отметить, что сгенерированные изображения не отображались в основной версии Google Earth для просмотра другими пользователями и содержали водяной знак, указывающий на то, что они были сгенерированы искусственным интеллектом».

Это утверждение неточно описывает изображения, которые пользователи создавали с помощью этого инструмента. На мой взгляд, это вышло за рамки простого «нарушения» правил Google : интернет, как и ожидалось, использовал Nano Banana 2 для создания неприемлемых и деликатных изображений на основе реальных мест. Возможно, никого не удивит, что одно из самых распространенных изображений изображало самолет, врезающийся в новый Всемирный торговый центр на Манхэттене . Другие показывали Эйфелеву башню в руинах или египетские пирамиды, рушащиеся в глубокую яму. Хотя многие могут понимать, что эти изображения были созданы в шутку, гораздо большее число людей, увидев эти «официальные» изображения Google Earth в интернете, могут предположить худшее.

Но, если отбросить шутки в сторону, потенциал распространения дезинформации и ложных сведений вызывал тревогу. Например, один пользователь продемонстрировал, как он использовал инструмент, чтобы разместить беженцев плечом к плечу возле мексиканской границы . Можно представить, как такое изображение стало бы вирусным, и зрителей обманули бы, заставив поверить, что этот снимок Google Earth — подлинный спутниковый снимок. Вероятно, у Google были какие-то механизмы контроля, предотвращающие многие процессы генерации изображений, но эти ограничения явно были недостаточно надежными. Поскольку любой, независимо от того, платил он за функции искусственного интеллекта Google или нет, мог использовать Nano Banana 2 с Google Earth, все, что им нужно было сделать, это открыть Google Earth и манипулировать вредоносным запросом, пока Nano Banana 2 не отреагирует.

Генеративный искусственный интеллект не место в таком инструменте, как Google Earth.

Не нужно быть скептиком в отношении ИИ, чтобы понять, почему это изначально было плохой идеей. Тем не менее, немногие компании, занимающиеся ИИ, проявляют скептицизм, прежде чем внедрять функции генеративного ИИ в свои продукты. Такие инструменты, как Google Earth, созданы для обучения. Мы используем их, чтобы узнавать о мире, его географии и о том, как выглядят разные города и ландшафты. Лично мне нравится вращать свой цифровой глобус, чтобы исследовать новые места, и я часто ставлю метку в случайном месте, чтобы посмотреть, как оно выглядит в режиме Street View. Причина в том, что я считаю Google Earth точным и надежным источником информации о мире; если бы это было не так, зачем бы мне это было важно?

Поэтому я не вижу никакой логики в том, что Google предлагает инструмент, который по своей природе генерирует неточные и искаженные изображения мира. Одним из его преимуществ было отображение мест на карте такими, какими они выглядели в прошлом, но Nano Banana 2 этого не делал . Вместо этого ИИ использовал свои обучающие данные для создания того, что, по его мнению, являлось историческим представлением местности. Если бы вы попросили его показать, как выглядел Париж в 1726 году, он, скорее всего, разместил бы на карте общественные здания и сооружения, а не изобразил бы то, как Париж выглядел на самом деле триста лет назад. В результате вы получаете иллюзию истории; это может быть занимательно, но уж точно не познавательно — подобно просмотру некачественного исторического контента, сгенерированного ИИ, в социальных сетях.

То же самое относится и к созданным ИИ «информационным инфографикам». Такие компании, как Google, любят продвигать возможности ИИ как образовательный инструмент, и кажется замечательным, что Google Earth может создавать информативные инфографики, показывающие местоположение на карте. Но полученные инфографики не проверяются никакими авторитетными источниками, уж точно не экспертами: изображение, созданное Nano Banana 2, может быть полно полуправды и галлюцинаций, и, что еще хуже, оно не содержит никаких ссылок для проверки работы ИИ. Обычные пользователи могут запомнить информацию, которую они «узнают» из этих инфографик, независимо от того, насколько эта информация точна.

В худшем случае эта функция действовала как машина для распространения дезинформации. Если вы хотели убедить людей в том, что в определенной части мира произошло что-то плохое, вы могли просто ввести свой запрос, и Nano Banana 2 сгенерировал бы реалистичное спутниковое изображение вашей идеи, готовое к легкому распространению в социальных сетях. В то время, когда дезинформация, генерируемая ИИ, быстро распространяется, это только усугубляет проблему, подливая масла в и без того бушующий пожар. Такие компании, как Google, должны искать способы отделить сгенерированный ИИ вредоносный контент от реальной информации, а не способствовать его распространению.

Это не аргумент против инструментов ИИ в целом, а скорее против интеграции генеративного ИИ в образовательный инструмент. Я не понимаю, какую пользу, по мнению Google, приносит ИИ, искажая факты, — кроме как еще одного примера, на который можно ссылаться, хвастаясь своими «успехами» в области ИИ.