ИИ от Google оказался опасным: расследование раскрыло неутешительную картину
Компания Google удалила обзоры искусственного интеллекта (ИИ) для некоторых запросов, связанных с медицинской тематикой. Однако эксперты все еще предупреждают о рисках, связанных, с функцией AI Overviews.
Ограничению AI Overviews предшествовало расследование, которое показало, что люди подвергаются риску из-за ложной и обманчивой информации, которую предоставляет ИИ по вопросам здоровья. Об этом пишет The Guardian.
Например, пользователи получали от Google ложную информацию о важных тестах функции печени, из-за чего люди с серьезными заболеваниями печени могли ошибочно считать себя здоровыми.
Эксперты обнаружили, что при вводе запроса "какой нормальный диапазон показателей анализа крови на печень" ИИ предоставляет массу цифр, мало контекста и без учета национальности, пола, этнической принадлежности или возраста пациентов.
После публикации расследования Google удалила обзоры искусственного интеллекта для поисковых запросов "какой нормальный диапазон для анализов крови на печень" и "какой нормальный диапазон для анализов функции печени".
"Мы не комментируем отдельные удаления в "Поиске". В случаях, когда обзоры ИИ не учитывают определенный контекст, мы работаем над общими улучшениями, а также принимаем меры в соответствии с нашими правилами, где это уместно", — сказал по этому поводу представитель Google.
Эксперт портала TechCrunch попытался ввести эти запросы через несколько часов после публикации статьи, однако ни один из них не предложил обзора ИИ. Более того, в нескольких случаях первым результатом была статья Guardian.
Однако директор по коммуникациям и политике British Liver Trust Ванесса Хебдитч, предупреждает, что пользователи все равно могут получить обманчивые медицинские советы от ИИ. Для этого стоит лишь поставить вопрос по-другому.
В The Guardian подтвердили, что пользователь может увидеть обзор ИИ, просто введя незначительные вариации оригинальных запросов в Google, такие как "диапазон опорных значений lft" или "диапазон опорных значений lft-теста".
"Наше самое большое беспокойство во всем этом заключается в том, что это придирчивый выбор одного результата поиска, и Google может просто отключить обзоры искусственного интеллекта для этого, но это не решает большей проблемы обзоров искусственного интеллекта для здравоохранения", — подчеркнула Хебдитч.
Напомним, компании, связанные со сферой искусственного интеллекта, стали лидерами рынка, впервые за много лет обойдя Apple.
Фокус также сообщал, что ИИ вызвал дефицит оперативной памяти, что может привести к подорожанию смартфонов в 2026 году.