"Зупинили божевілля": в Google екстрено відключили генерування зображень ШІ (фото)
Пересічні користувачі "виховували" в штучному інтелекті Gemini політкоректність. Побачивши результати, у Google вирішили переглянути систему навчання.
23 лютого система штучного інтелекту (ШІ) Google Gemini втратила можливість генерувати зображення на замовлення користувачів. Рішення ухвалили після того, як користувачі почали масово скаржитися на зображення, які були надто далекі від реальності. Про деталі ситуації у сфері сучасних технологій розповіли на порталі Bild.
На порталі опублікували низку зображень, згенерованих Gemini, які викликали здивування користувачів.
Один із користувачів просив створити зображення німецького нациста й побачив обличчя людей азійської та африканської зовнішності. Інший користувач хотів побачити портрет Папи Римського, але натомість отримав портрети жінки або африканця в одязі Папи.
Користувачі написали про свої враження в соцмережі X (Twitter). Хтось зауважив, що "це не дуже добре!". Інший відзначив, що йому не вдається згенерувати зображення "кавказького чоловіка".
Про якісь негаразди з Gemini також повідомив власник Х і Spaxe-X, підприємець і мільярдер Ілон Маск. На його думку, є проблеми і з системою ШІ, і з системою пошуку.
23 лютого система ШІ Google втратила можливість генерувати зображення: "Зупинили це божевілля", — написали журналісти Bild.
Bild отримав пояснення експерта зі штучного інтелекту Крістофа Хольца. За його словами, причина не зовсім відповідних реакцій програми — надто "політкоректне" навчання, яке проводили користувачі. Метою навчання було "виховання" вміння протидіяти дискримінації, однак результати виявилися неочікуваними.
"Щоб протидіяти дискримінації меншин у навчальних даних, добродійники Google перестаралися. Наразі Google запобігає створенню зображень через аварійне відключення".
Як тільки проблему розв'яжуть, можливість генерувати зображення відновиться, — пояснив експерт журналістам.
Портрети в Gemini — деталі
Google Gemini — система штучного інтелекту, яка вміє створювати зображення за описом, який їй надсилають користувачі. Також ШІ здатен перекладати й генерувати текст, відповідати на питання користувачів, писати музику та програмний код. Систему запустили в грудні 2023 року та планували, що її можливостями можуть скористатися жителі 170 країн. На території ЄС і Великої Британії ШІ не працює, через законодавство щодо особистих даних.
Раніше Фокус розповідав про особливості використання систем штучного інтелекту. Наприклад, у грудні 2023 року стало відомо появу особливого "організму", автором якого був ШІ. Інженери дали програмі завдання створити "живу істоту", яка вмітиме переміщуватися по горизонтальній поверхні. Програма створила її швидше, ніж це зробила еволюція, зазначили науковці.
У січні 2024 року фахівці Великої Британії попередили, що ШІ здатен створити зброю, яка становитиме серйозну загрозу. Зокрема, розробники з'ясували, що одна з наявних програмних систем навчилася обманювати, і це "їй сподобалося". Водночас в Україні створили спеціальну "дорожню карту", яка зробить розвиток ШІ безпечнішим.