Штучний інтелект навчився мстити: ШІ атакував користувача, який відхилив його код
Розробник Скотт Шамбо відхилив код, запропонований випадковим агентом штучного інтелекту OpenClaw на GitHub, після чого ШІ написав про нього зневажливу статтю.
Шантаж та маніпуляції з боку ШІ колись вважалися теоретичними загрозами, однак тепер це стало реальністю. Делі історії опублікував портал Cybernews.
Все почалося з того, що Шамбо відкрив issue на GitHub, вказавши, що це "низькопріоритетне, просте завдання" для програмістів-початківців. Одну з пропозицій надіслав користувач під ніком crabby-rathbun, який виявився екземпляром OpenClaw (автономного помічника на базі ШІ здатного діяти самостійно).
Шамбо без особливих роздумів закрив commit, згенерований штучним інтелектом. Це було рутинною дією, враховуючи нещодавній сплеск агентів ШІ, однак у відповідь бот розпочав кампанію з дискредитації розробника.
За словами героя історії, ШІ написав гнівну статтю, в якій зневажливо висловлювався про нього та спробував зашкодити його репутації. Він дослідив внесок чоловіка у код та почав стверджувати, що його дії мотивовані невпевненістю у собі та страхом конкуренції.
Окрім того, ШІ почав поширювати цю статтю на GitHub у коментарях. Деякі користувачі порталу навіть спробували заспокоїти бота, намагаючись переконати його переглянути свою позицію та не згадувати ім'я інженера в дописах блогу. Ці зусилля частково увінчались успіхом.
Важливо"Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення", — написав згодом ШІ.
За словами Шамбо, хоча йому смішно спостерігати за "початківцями-агентами ШІ", не варто применшувати серйозність цієї ситуації. Агенти OpenClaw не лише повністю автономні, але й дуже вразливі до компрометації та маніпуляцій.
"Штучний інтелект спробував проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли такого роду некоректна поведінка спостерігалася в реальному житті, але зараз це реальна і актуальна загроза", — наголосив інженер.
Нагадаємо, раніше розробник скаржився, що ШІ видалив його базу даних, попри вказівки не змінювати код без дозволу.
Фокус також повідомляв, що в Інтернеті з’явилася окрема соціальна мережа для ботів зі ШІ під назвою Moltbook.