Люди начали генерировать взрывы и теракты на спутниковых снимках: Google отключил новую функцию
Новая функция искусственного интеллекта в Google Earth позволила создавать чрезвычайно реалистичные фейковые спутниковые снимки, что вызвало беспокойство среди экспертов по кибербезопасности и OSINT-исследователей. Они предупредили, что такие изображения могут использоваться для дезинформации, фальсификации последствий атак и манипулирования общественным мнением, поэтому Google выключила инструмент менее чем через сутки после его запуска.
В материале The Financial Times говорится, что Google временно отключила новую функцию Nano Banana, интегрированную в Google Earth, после того, как она продемонстрировала потенциал для создания убедительных поддельных спутниковых снимков.
В ходе презентации компания заявляла, что инструмент позволит пользователям "переосмысливать" любую точку мира, в частности добавлять в реальные спутниковые снимки новые объекты или целые сцены, созданные искусственным интеллектом. Однако почти сразу после запуска пользователи начали публиковать в соцсетях изображения с вымышленными кратерами от взрывов, поврежденными зданиями и другими несуществующими событиями, которые выглядели как спутниковые фотографии.
"Почти сразу после запуска пользователи X начали делиться примерами работы функции. Среди них были спутниковые снимки с вымышленным кратером взрыва в Газе, атомными электростанциями в Иране и автомобильной аварией в Амстердаме", — отмечает FT.
Именно это и стало главной причиной критики – эксперты по разведке по открытым источникам (OSINT) подчеркнули, что подобная технология может существенно усложнить проверку информации. По их словам, фальшивые спутниковые снимки способны использоваться для создания ложных доказательств последствий ракетных ударов, терактов или других военных событий, что, в свою очередь, открывает новые возможности для информационных манипуляций.
Особую обеспокоенность вызвало то, что генератор изображений был встроен именно в Google Earth, который на протяжении многих лет оставался одним из главных инструментов, с помощью которого журналисты, аналитики и исследователи проверяли достоверность фотографий и видео. Интеграция же генеративного ИИ непосредственно в платформу, по мнению экспертов, уже подрывает доверие к одному из основных источников верификации.
После волны критики Google объявила о временном отключении функции. В компании объяснили, что работают над усилением системы защиты, после чего планируют вернуть инструмент в Google Earth.
В то же время, в Google отметили, что сгенерированные искусственным интеллектом изображения не были доступны всем пользователям в стандартном режиме работы сервиса и обозначались специальными водяными знаками. Но все, как заметил аналитик-исследователь Американского института предпринимательства Брейди Африк, на практике этого недостаточно, ведь при просмотре сообщений в социальных сетях большинство людей не проверяет, было ли изображение создано с помощью искусственного интеллекта.
"Мало кто проверяет, создано ли изображение искусственным интеллектом, когда листает его или распространяет", — сказал он.
В то же время, автор статьи Financial Times отметил, что этот случай лишь подтвердил растущую проблему использования генеративного ИИ для создания ложного визуального контента.
В частности, ранее в сети уже распространялись фейковые спутниковые снимки, которые демонстрировали последствия атак на военные объекты на Ближнем Востоке.
Напомним, что во Львове произошел скандал после того, как в ответ на обращение жителя об обрезке дерева ему прислали фото, оказавшееся сгенерированным искусственным интеллектом. В горсовете объяснили, что изображение ошибочно использовали в качестве подтверждения выполненных работ, хотя на самом деле их не производили.
Также Фокус писал, что Apple подала в суд на OpenAI и двух своих бывших работников, обвинив их в похищении конфиденциальной информации для разработки собственных ИИ-устройств. В OpenAI отвергли обвинения, заявив, что компания не использует чужие коммерческие тайны.