Люди почали генерувати вибухи та теракти на супутникових знімках: Google вимкнув нову функцію
Нова функція штучного інтелекту в Google Earth дозволила створювати надзвичайно реалістичні фейкові супутникові знімки, і це викликало занепокоєння серед експертів із кібербезпеки та OSINT-дослідників. Вони попередили, що такі зображення можуть використовуватися для дезінформації, фальсифікації наслідків атак і маніпулювання громадською думкою, тому Google вимкнула інструмент менш ніж через добу після його запуску.
У матеріалі видання The Financial Times йдеться, що Google тимчасово відключила нову функцію Nano Banana, інтегровану в Google Earth, після того, як вона продемонструвала потенціал для створення переконливих підроблених супутникових знімків.
Під час презентації компанія заявляла, що інструмент дасть змогу користувачам "переосмислювати" будь-яку точку світу, зокрема додавати до реальних супутникових знімків нові об'єкти або цілі сцени, створені штучним інтелектом. Однак майже відразу після запуску користувачі почали публікувати в соцмережах зображення із вигаданими кратерами від вибухів, пошкодженими будівлями та іншими неіснуючими подіями, які виглядали як справжні супутникові фотографії.
"Майже одразу після запуску користувачі X почали ділитися прикладами роботи функції. Серед них були супутникові знімки із вигаданим кратером від вибуху в Газі, атомними електростанціями в Ірані та автомобільною аварією в Амстердамі", — зазначає FT.
Саме це і стало головною причиною критики — експерти з розвідки за відкритими джерелами (OSINT) наголосили, що подібна технологія може суттєво ускладнити перевірку інформації. За їхніми словами, фальшиві супутникові знімки здатні використовуватися для створення неправдивих доказів наслідків ракетних ударів, терактів або інших воєнних подій, а це, своєю чергою, відкриває нові можливості для інформаційних маніпуляцій.
Особливе занепокоєння викликало те, що генератор зображень був вбудований саме в Google Earth, який протягом багатьох років залишався одним із головних інструментів, за допомогою якого журналісти, аналітики та дослідники перевіряли достовірність фотографій і відео. А інтеграція генеративного ШІ безпосередньо в платформу, на думку експертів, вже підриває довіру до одного з основних джерел верифікації.
Після хвилі критики Google оголосила про тимчасове відключення функції. У компанії пояснили, що працюють над посиленням системи захисту, після чого планують повернути інструмент у Google Earth.
Водночас у Google наголосили, що згенеровані штучним інтелектом зображення не були доступні всім користувачам у стандартному режимі роботи сервісу та позначалися спеціальними водяними знаками. Та все,як зауважив аналітик-дослідник Американського інституту підприємництва Брейді Афрік, на практиці цього недостатньо, адже під час перегляду дописів у соціальних мережах більшість людей не перевіряє, чи було зображення створене за допомогою штучного інтелекту.
"Мало хто перевіряє, чи зображення створене штучним інтелектом, коли гортає його або поширює", — сказав він.
Водночас автор статті Financial Times зауважив, що цей випадок лише підтвердив зростаючу проблему використання генеративного ШІ для створення неправдивого візуального контенту.
Зокрема, раніше в мережі вже поширювалися фейкові супутникові знімки, які нібито демонстрували наслідки атак на військові об'єкти на Близькому Сході.
Нагадаємо, що у Львові стався скандал після того, як у відповідь на звернення мешканця про обрізку дерева йому надіслали фото, яке виявилося згенерованим штучним інтелектом. У міськраді пояснили, що зображення помилково використали як підтвердження виконаних робіт, хоча насправді їх не проводили.
Також Фокус писав, що Apple подала до суду на OpenAI та двох своїх колишніх працівників, звинувативши їх у викраденні конфіденційної інформації для розробки власних ШІ-пристроїв. В OpenAI відкинули звинувачення, заявивши, що компанія не використовує чужі комерційні таємниці.