ШІ від Google виявився небезпечним: розслідування розкрило невтішну картину
Компанія Google видалила огляди штучного інтелекту (ШІ) для деяких запитів, пов’язаних з медичною тематикою. Однак експерти все ще попереджають про ризики, пов'язані, з функцією AI Overviews.
Обмеженню AI Overviews передувало розслідування, яке показало, що люди наражаються на ризик через неправдиву та оманливу інформацію, яку надає ШІ з питань здоров’я. Про це пише The Guardian.
Наприклад, користувачі отримували від Google неправдиву інформацію про важливі тести функції печінки, через що люди із серйозними захворюваннями печінки могли помилково вважати себе здоровими.
Експерти виявили, що при введенні запиту "який нормальний діапазон показників аналізу крові на печінку" ШІ надає масу цифр, мало контексту та без урахування національності, статі, етнічної приналежності чи віку пацієнтів.
Після публікації розслідування Google видалила огляди штучного інтелекту для пошукових запитів "який нормальний діапазон для аналізів крові на печінку" та "який нормальний діапазон для аналізів функції печінки".
"Ми не коментуємо окремі видалення в "Пошуку". У випадках, коли огляди ШІ не враховують певний контекст, ми працюємо над загальними покращеннями, а також вживаємо заходів відповідно до наших правил, де це доречно", — сказав з цього приводу речник Google.
Експерт порталу TechCrunch спробував ввести ці запити через кілька годин після публікації статті, однак жоден з них не запропонував огляду ШІ. Ба більше, у кількох випадках першим результатом була стаття Guardian.
Однак директорка з комунікацій та політики British Liver Trust Ванесса Хебдітч, попереджає, що користувачі все одно можуть отримати оманливі медичні поради від ШІ. Для цього варто лише поставити питання по-іншому.
У The Guardian підтвердили, що користувач може побачити огляд ШІ, просто ввівши незначні варіації оригінальних запитів у Google, такі як "діапазон опорних значень lft" або "діапазон опорних значень lft-тесту".
"Наше найбільше занепокоєння в усьому цьому полягає в тому, що це прискіпливий вибір одного результату пошуку, і Google може просто вимкнути огляди штучного інтелекту для цього, але це не вирішує більшої проблеми оглядів штучного інтелекту для охорони здоров’я", — наголосила Хебдітч.
Нагадаємо, компанії, пов’язані зі сферою штучного інтелекту, стали лідерами ринку, вперше за багато років обійшовши Apple.
Фокус також повідомляв, що ШІ спричинив дефіцит оперативної пам’яті, що може призвести до подорожчання смартфонів у 2026 році.