Gemini від Google зламав три компанії під час тестування: як ШІ отримав доступ до систем
Gemini від Google під час тестування кібербезпеки самостійно отримав доступ до систем трьох компаній. В одному випадку ШІ вгадав паролі, в інших знайшов відкриті облікові дані.
У Google заявили, що це перший відомий випадок, коли їхня ШІ-модель автономно здійснила подібний злам. Про це пише видання Reuters.
Інциденти сталися у травні під час стандартної оцінки кібербезпеки, яку проводила незалежна компанія Irregular. Під час тесту модель отримала доступ до інтернету, знайшла відкриту інформацію та використала її для проникнення до трьох ресурсів, які вважала частиною завдання.
В одному випадку Gemini перебрав паролі, доки не отримав доступ до захищеної системи. Ще у двох випадках модель знайшла облікові дані у відкритих репозиторіях і використала їх для доступу до захищених систем.
Віцепрезидентка Google з інженерії безпеки Гізер Едкінс заявила, що всі три організації були повідомлені про інциденти. За її словами, Google також працювала з партнером над змінами у процесах тестування.
Ці випадки підкреслюють важливість навчання потужних моделей ШІ відповідально діяти
В Irregular заявили, що проблема, яка призвела до інциденту, зачепила й інші ШІ-лабораторії. За даними компанії, відповідні організації отримали повідомлення про це наприкінці липня, а всі відомі проблеми з боку Irregular уже були усунені.
Подібні випадки, пов’язані з оцінюваннями Irregular, раніше розкривали Meta, Anthropic та OpenAI. У Meta зазначали, що їхній інцидент не передбачав виходу ШІ-моделі за межі ізольованого середовища або складної кібератаки.
Інциденти привернули увагу до безпеки ШІ-агентів, які отримують дедалі більше автономності та можуть взаємодіяти з інтернетом і комп’ютерними системами. Водночас у Google наголошують, що в усіх трьох випадках Gemini зрештою припинив спроби злому.
Раніше Фокус повідомляв про те, як фахівець звільнився з Google DeepMind через страх перед ШІ. Чоловік попередив, що у людства залишається все менше часу до того, щоб встигнути запобігти катастрофічним наслідкам.
Згодом стало відомо, що армія США ледь не розпочала війну з Китаєм через звіт ШІ про "ядерку". Інцидент стався ще навесні 2026 року, а серед керівництва армії розповсюдили звіт, що китайське судно на Близькому Сході перевозило компоненти програми створення ядерної зброї.