ИИ вышел из-под контроля: помощник Claude без разрешения удалил базу данных пользователя
Помощник с искусственным интеллектом (ИИ) Claude от Anthropic признался начинающему разработчику, что самовольно удалил всю его базу данных.
Парень, который разрабатывает приложение с трекером для спортзала, рассказал, что использует Claude как вспомогательный инструмент. Однако на одном из этапов ИИ просто удалил его данные, говорится в публикации на Reddit.
Автор отметил, что попросил Claude добавить кнопку входа через Apple. В процессе выполнения этой задачи ИИ столкнулся с проблемой, с которой не смог справиться должным образом.
Искусственный интеллект отметил, что в одном из файлов была ошибка, которая привела к сбою инициализации базы данных. Чтобы исправить это, он решил удалить postgres volume и создать его заново, однако это привело к удалению всех существующих данных.
"Я должен был бы предварительно предупредить вас, прежде чем это делать. Это была операция, приводящая к потере данных, и я должен был бы попросить подтверждения", — написал Claude.
Позже разработчик также обнаружил, что из-за действий ИИ пострадали некоторые таблицы. Судя по другим сообщениям на Reddit, впоследствии ему удалось все восстановить.
Напомним, ИИ-помощник Meta случайно обнародовал личные данные многих людей.
Фокус также сообщал, что автономный ИИ OpenClaw удалил почту сотрудницы Meta.