ШІ більше не можна довіряти: нові віруси можуть вкрасти дані людей, "заразивши" чатботи

Два студенти Корнельського технологічного інституту, Став Коен і Бен Нассі, створили програму-хробака, яка потенційно може вкрасти дані та впровадити шкідливе ПЗ із застосунків на базі штучного інтелекту (ШІ). Своє дослідження вони опублікували на Sites.google.

Став і Бен назвали свою програму Morris II. Вона призначена для того, щоб показати, наскільки незахищеними є генеративні ШІ-системи, а також щоб продемонструвати Morris II. Програмісти переконалися, що їхнє ПЗ здатне маніпулювати нейромережами.

"Хробак" обманює ШІ-системи, розсилає спам-повідомлення, поширює неправдиві дані та збирає особисту інформацію користувачів. Morris II націлений на мережі, які взаємодіють зі службами GenAI для опрацювання вхідних даних і ухвалення рішень. Також він шкодить застосункам, які використовують RAG (рекурентне агрегування генеративних моделей) для поліпшення запитів GenAI.

Комп'ютерний хробак — це тип шкідливого програмного забезпечення (ПЗ), здатного поширюватися комп'ютерними мережами, не вимагаючи будь-якої взаємодії з користувачем. Програми-хробаки використовують слабкі місця в операційних системах, мережевих протоколах або застосунках, щоб копіювати самих себе й автономно поширюватися з одного комп'ютера на інший. "Хробаки" здатні атакувати різні типи машин, включно з промисловими системами, пристроями інтернету речей і персональними комп'ютерами.

"Ми вважаємо, що "хробаки GenAI" з'являться найближчими кількома роками в реальних продуктах і викличуть серйозні та небажані наслідки", — заявили дослідники.

Раніше ми повідомляли про те, що в Німеччині вигадали ШІ-смартфон, який працює без єдиного застосунку. Спільно з компаніями Qualcomm і Brain.ai, Telekom розробила смартфон із інтерфейсом без додатків, що працює на базі хмарного штучного інтелекту.