"Остановили безумие": в Google экстренно отключили генерирование изображений ИИ (фото)
Рядовые пользователи "воспитывали" в искусственном интеллекте Gemini политкорректность. Увидев результаты, в Google решили пересмотреть систему обучения.
23 февраля система искусственного интеллекта (ИИ) Google Gemini потеряла возможность генерировать изображения по заказу пользователей. Решение приняли после того, как пользователи начали массово жаловаться на изображения, которые были слишком далеки от реальности. О деталях ситуации в сфере современных технологий рассказали на портале Bild.
На портале опубликовали ряд изображений, сгенерированных Gemini, которые вызвали удивление пользователей.
Один из пользователей просил создать изображение немецкого нациста и увидел лица людей азиатской и африканской внешности. Другой пользователь хотел увидеть портрет Папы Римского, но взамен получил портреты женщины или африканца в одежде Папы.
Пользователи написали о своих впечатлениях в соцсети X (Twitter). Кто-то заметил, что "это не очень хорошо!". Другой отметил, что ему не удается сгенерировать изображение "кавказского мужчины".
О каких-то проблемах с Gemini также сообщил владелец Х и Spaxe-X, предприниматель и миллиардер Илон Маск. По его мнению, есть проблемы с системой ИИ, и с системой поиска.
23 февраля система ИИ Google потеряла возможность генерировать изображения: "остановили это безумие", — написали журналисты Bild.
Bild получил объяснение эксперта по искусственному интеллекту Кристофа Хольца. По его словам, причина не совсем соответствующих реакций программы — слишком "политкорректное" обучение, которое проводили пользователи. Целью обучения было "воспитание" умения противодействовать дискриминации, однако результаты оказались неожиданными.
"Чтобы противодействовать дискриминации меньшинств в учебных данных, помощники Google перестарались. Сейчас Google остановила создание изображений из-за аварийного отключения".
Как только проблему решат, возможность генерировать изображения восстановится, — пояснил эксперт журналистам.
Портреты в Gemini — детали
Google Gemini — система искусственного интеллекта, которая умеет создавать изображения по описанию, заданным пользователем. Также ИИ способен переводить и генерировать текст, отвечать на вопросы пользователей, писать музыку и программный код. Систему запустили в декабре 2023 года и планировали, что ее возможностями могут воспользоваться жители 170 стран. На территории ЕС и Великобритании ИИ не работает, из-за законодательства о личных данных.
Ранее Фокус рассказывал об особенностях использования систем искусственного интеллекта. Например, в декабре 2023 года стало известно появление особого "организма", автором которого был ИИ. Инженеры дали программе задание создать "живое существо", которое будет уметь перемещаться по горизонтальной поверхности. Программа создала его быстрее, чем это сделала эволюция, отметили ученые.
В январе 2024 года специалисты Великобритании предупредили, что ИИ способен создать оружие, которое будет представлять серьезную угрозу. Кроме того, разработчики выяснили, что одна из существующих программных систем научилась обманывать и это "ей понравилось". Тем временем в Украине создали специальную "дорожную карту", которая сделает развитие ИИ более безопасным.