ИИ не должен быть слишком умным: нейросети будут контролировать с помощью чипов

Группа исследователей из OpenAI, Стэнфордского и Джорджтаунского университетов считают, что большие языковые модели, вроде ChatGPT, могут использоваться для дезинформации в соцсетях и не только. Согласно отчету ученых, генеративные языковые модели сегодня доступны всем и каждому, а потому они опасаются, что такие инструменты, если окажутся в руках пропагандистов, рискуют стать инструментом для операций влияния в будущем, пишет vice.com.

Согласно мнению ученых, пропагандисты смогут прибегнуть к более дешевым и эффективным тактикам, благодаря ИИ-инструментам. Больше не нужно будет оплачивать работу армии троллей, ведь при помощи нейросетей можно будет генерировать убедительные тексты в больших количествах, рассылать их по соцсетям, продвигать через СМИ в Интернете. Несмотря на то, что языковые модели контролируются через API, у таких государств, как Китай и Россия хватит денег, чтобы инвестировать в собственные разработки. Кроме постов, пропагандисты смогут задействовать и собственных чат-ботов. В своем отчете они упоминают то, как чат-бот помог повлиять на людей, чтобы они вакцинировались в разгар пандемии COVID-19.

Исследователи полагают, что правительствам необходимо ввести ограничения на сбор нейросетями обучающих данных и создать инструменты контроля доступа к оборудованию ИИ, такому как полупроводники. В пример приводят ограничения экспортного контроля, введенные США против Китая. Не имея доступа к некоторому оборудованию и технологиям, КНР не сможет создавать микросхемы последнего поколения, что значительно замедлит эту страну в ее попытках "прокачать" нейросети.

Ученые предлагают ограничить доступ к будущим ИИ-моделям, повысить их уровень безопасности, чтобы избежать взломов и атак. Что касается контента, исследователи предлагают, чтобы платформы координировали свои действия с поставщиками ИИ для выявления контента, написанного ИИ, и требовали, чтобы весь контент был написан людьми.

Ранее мы сообщали о том, какие расширения можно установить, чтобы воспользоваться ChatGPT прямо в браузере.