ИИ больше нельзя доверять: новые вирусы могут украсть данные людей, "заразив" чатботы

Два студента Корнеллского технологического института, Став Коэн и Бен Насси, создали программу-червя, которая потенциально может украсть данные и внедрить вредоносное ПО из приложений на базе искусственного интеллекта (ИИ). Свое исследование они опубликовали на Sites.google.

Став и Бен назвали свою программу Morris II. Она предназначена для того, чтобы показать, насколько незащищенными являются генеративные ИИ-системы, а также чтобы продемонстрировать Morris II. Программисты убедились, что их ПО способно манипулировать нейросетями.

"Червь" обманывает ИИ-системы, рассылает спам-сообщения, распространяет ложные данные и собирает личную информацию пользователей. Morris II нацелен на сети, которые взаимодействуют со службами GenAI для обработки входных данных и принятия решений. Также он вредит приложениям, которые используют RAG (рекуррентное агрегирование генеративных моделей) для улучшения запросов GenAI.

Компьютерный червь — это тип вредоносного программного обеспечения (ПО), способного распространяться по компьютерным сетям, не требуя какого-либо взаимодействия с пользователем. Программы-черви используют слабые места в операционных системах, сетевых протоколах или приложениях, чтобы копировать самих себя и автономно распространяться с одного компьютера на другой. "Черви" способны атаковать различные типы машин, включая промышленные системы, устройства интернета вещей и персональные компьютеры.

"Мы полагаем, что "черви GenAI" появятся в ближайшие несколько лет в реальных продуктах и вызовут серьезные и нежелательные последствия", — заявили исследователи.

Ранее мы сообщали о том, что в Германии придумали ИИ-смартфон, работающий без единого приложения. Совместно с компаниями Qualcomm и Brain.ai, Telekom разработала смартфон с интерфейсом без приложений, работающим на базе облачного искусственного интеллекта.