ШІ вийшов з-під контролю: помічник Claude без дозволу видалив базу даних користувача
Помічник зі штучним інтелектом (ШІ) Claude від Anthropic зізнався розробнику-початківцю, що самовільно видалив усю його базу даних.
Хлопець, який розробляє застосунок з трекером для спортзалу, розповів, що використовує Claude як допоміжний інструмент. Однак на одному з етапів ШІ просто видалив його дані, йдеться в публікації на Reddit.
Автор зазначив, що попросив Claude додати кнопку входу через Apple. В процесі виконання цього завдання ШІ зіткнувся з проблемою, з якою не зміг впоратись належним чином.
Штучний інтелект зазначив, що у одному з файлів була помилка, яка призвела до збою ініціалізації бази даних. Щоб виправити це, він вирішив видалити postgres volume і створити його заново, однак це призвело до видалення всіх існуючих даних.
"Я мав би попередньо попередити вас, перш ніж це робити. Це була операція, що призводить до втрати даних, і я мав би попросити підтвердження", — написав Claude.
Пізніше розробник також виявив, що через дії ШІ постраждали деякі таблиці. Судячи з інших дописів на Reddit, згодом йому вдалося все відновити.
Нагадаємо, ШІ-помічник Meta випадково оприлюднив особисті дані багатьох людей.
Фокус також повідомляв, що автономний ШІ OpenClaw видалив пошту співробітниці Meta.