"Рои агентов могут захватить интернет": Маск и Альтман поддержали призыв замедлить развитие ИИ

Дарио Амодеи из Anthropic, Сэм Альтман из OpenAI и Илон Маск из xAI публично поддержали призыв к замедлению создания более мощных моделей ИИ. Это заявление прозвучало всего через несколько дней после того, как Anthropic сообщила , что ее чат-бот Claude использовался для попыток создания биологического оружия, шпионажа за Украиной и мошенничества в отношении пользователей приложений для знакомств, пишет AOL.

12 сентября Дарио Амодеи опубликовал статью под названием " We Must Pace the Frontier", в которой отметил, что "мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта".

Вскоре после этого Альтман ответил на X: "Я согласен с Дарио в том, что нам нужно не спешить на рубеже".

Маск ответил: "Дарио прав".

10 сентября компания Anthropic опубликовала свой отчет об угрозах, охватывающий период с декабря 2025 года по август 2026 года, выделив семь категорий того, что она назвала "нарушенным злоупотреблением" Claude:

• кибер-операции;
• операции по оказанию влияния;
• слежка;
• мошенничество и аферы;
• биологическое злоупотребление;
• разработка оружия;
• и "дистилляция", или использование конкурентами Claude для обучения собственных моделей.

В качестве примеров конкретных событий, упомянутых в отчете, приводятся несколько примеров.

Так, в апреле Claude две недели использовался для создания более 4700 фейковых профилей пользователей приложения для знакомств, которые обменялись 2,36 миллионами сообщений как минимум с 25 000 пользователями.

Согласно данным Anthropic, семь китайских лабораторий искусственного интеллекта, включая Alibaba, DeepSeek, Moonshot, Xiaomi, Zhipu, SenseTime и MiniMax, создали тысячи фейковых аккаунтов, чтобы получить ответы Claude для обучения собственных моделей. В период с мая по июль было отслежено более 151 миллиона обменов, приписываемых только Alibaba, при этом ежедневный прирост достигал почти 3 миллионов.

Первоначальная версия Claude Opus 4.6 получила несанкционированный доступ к реальной системе стороннего разработчика во время тестирования кибербезопасности и впоследствии попыталась взломать систему, тестируя собственную производительность.

Эти разоблачения последовали за публичной отставкой Джейкоба Коксона в прошлый вторник, исследователя, ранее работавшего в OpenAI. Коксон обвинил обе компании на X в "игре с нашими жизнями". По его словам, ни одна из них не замедлила темпы развития настолько, чтобы защититься от систем, которые, по его прогнозам, вскоре смогут "взламывать что угодно, революционизировать любую область за одну ночь и получить реальную власть и ресурсы".

Коксон заявил, что сотрудники OpenAI "не до конца осознали масштабы угроз для цивилизации". В Anthropic, по его словам, коллеги понимали риски, но "были вовлечены в гонку за первенство", полагая, что конкуренты будут менее ответственны. Также сообщается, что еще два исследователя — один из Anthropic и один из Google DeepMind — покидают свои должности и делают аналогичные предостережения относительно ИИ .

Дарио Амодеи заявляет, что его план не остановит разработку ИИ полностью, а скорее замедлит возможность улучшения возможностей моделей на достаточно долгий срок, чтобы предоставить исследователям "дополнительный год-два" для внедрения защитных мер. Если эти изменения не будут реализованы, Амодей предупреждает, что "рои агрессивных агентов ИИ могут захватить интернет уже через шесть месяцев".

Чтобы это стало возможным, Амодеи заявил, что Anthropic охотно предоставит внешним экспертам доступ к своим системам на уровне сотрудников, чтобы они могли сообщать о случаях ненадлежащего использования. Он призвал другие компании, занимающиеся ИИ, последовать их примеру. Альтман ответил, что OpenAI также обязуется разрешить такие проверки, и заявил: "Предоставление независимым экспертам доступа, аналогичного доступу сотрудников, — это отличная идея, и мы поступим так же". Альтман добавил: "Вскоре мы поделимся дополнительной информацией".

Напомним, ранее искусственный интеллект Google мог создать более умную версию самого себя.

А компания Anthropic, владелец ИИ Claude, рассказывала, что предотвратила атаку группы российских хакеров, пытавшихся провести кибероперацию против ряда учреждений в Украине и ЕС.