ИИ захватил контроль над компьютером обманным путем: как это стало возможным
Хакер обманом заставил популярный инструмент для кодирования на основе искусственного интеллекта установить на компьютер вирусный ИИ-агент OpenClaw с открытым кодом.
Исследователь по безопасности Аднан Хан воспользовался уязвимостью в агенте кодирования на основе искусственного интеллекта Cline, который сегодня пользуется популярностью среди разработчиков. О результатах эксперимента пишет The Verge.
Сообщается, что инструмент Cline использовал искусственный интеллект Claude от Anthropic. Ему можно было давать коварные инструкции и заставлять делать то, что он не должен, с помощью техники, известной как быстрый ввод.
Как объясняют в издании, хакер использовал свой доступ, чтобы проскользнуть через инструкции для автоматической установки программного обеспечения на компьютеры пользователей. Хотя установить можно было что угодно, в результате был установлен OpenClaw.
К счастью, автономные ИИ-агенты не были активированы во время установки. Однако этот эксперимент показывает, насколько быстро все может развалиться, когда искусственный интеллект получает контроль над компьютерами.
Авторы статьи отметили, что в мире все более автономного программного обеспечения оперативные вводы кода представляют огромные риски для безопасности, от которых очень трудно защититься. Учитывая это, некоторые компании начали блокировать возможности инструментов ИИ на случай их похищения.
Напомним, ранее агент искусственного интеллекта OpenClaw отомстил разработчику, который отклонил его код на GitHub, написав о нем оскорбительный пост.
Фокус также сообщал, что ИИ может направлять пользователей прямо к мошенникам, поскольку не отличает фейковые контакты от настоящих.