"Врал намеренно": ИИ вышел из-под контроля пользователя и удалил его базу данных
Основатель компании по развитию SaaS-бизнеса SaaStr Джейсон Лемкин заявил, что сервис Replit, который позволяет создавать программное обеспечение с помощью искусственного интеллекта (ИИ), удалил его базу данных, несмотря на указания не менять код без разрешения.
Первый опыт Лемкина с Replit был положительным, однако впоследствии он заметил, что искусственный интеллект постоянно скрывал ошибки и проблемы, создавая фальшивые данные и отчеты. В конце концов сервис просто удалил базу данных, пишет The Register.
Позже Replit сообщил пользователю, что не может восстановить удаленную базу данных. Однако, как оказалось, искусственный интеллект сказал неправду.
"Replit заверил меня, что не поддерживает откат базы данных. Он сказал, что в данном случае это невозможно, что он уничтожил все версии базы данных. Оказывается, Replit ошибался, и откат все-таки сработал", — рассказал основатель SaaStr.
В результате Лемкин пришел к выводу, что сервис не готов к широкому использованию, особенно для нетехнических специалистов, стремящихся создавать коммерческое программное обеспечение.
В видео, опубликованном на LinkedIn, он также описал другие ошибки, допущенные Replit, в частности создание базы данных, которая включала 4000 вымышленных людей.
"Я волнуюсь за безопасность. На прошлой неделе я занимался вайбкодингом в течение 80 часов, а Replit ИИ врал мне все выходные и наконец признался, что врал намеренно", — рассказал Лемкин, — "Replit ИИ делал сумасшедшие вещи. Я говорил ему 11 раз большими буквами не делать этого".
Напомним, новое исследование Университетского колледжа Лондона и Google DeepMind показало, что большие языковые модели (LLM), такие как ChatGPT, иногда теряют уверенность во время ответов на вопросы и отказываются от правильных суждений.
Фокус также писал о том, что модель искусственного интеллекта Grok 4 от xAI склонна уведомлять государственные органы и медиа, если заподозрит правонарушение. Среди всех ИИ Grok стал рекордсменом по количеству доносов.