"Рої агентів можуть захопити інтернет": Маск та Альтман підтримали заклик уповільнити розвиток ШІ

Даріо Амодеї з Anthropic, Сем Альтман з OpenAI та Ілон Маск з xAI публічно підтримали заклик до уповільнення розробки більш потужних моделей ШІ. Ця заява пролунала всього через кілька днів після того, як Anthropic повідомила, що її чат-бот Claude використовувався для спроб створення біологічної зброї, шпигунства за Україною та шахрайства щодо користувачів додатків для знайомств, пише AOL.

12 вересня Даріо Амодеї опублікував статтю під назвою "We Must Pace the Frontier", у якій зазначив, що "ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту".

Незабаром після цього Альтман відповів у X: "Я згоден із Даріо в тому, що нам не слід поспішати на цьому етапі".

Маск відповів: "Даріо має рацію".

10 вересня компанія Anthropic опублікувала свій звіт про загрози, що охоплює період з грудня 2025 року по серпень 2026 року, виділивши сім категорій того, що вона назвала "неправомірним зловживанням" Claude:

• кібероперації;
• операції з метою впливу;
• стеження;
• шахрайство та афери;
• біологічне зловживання;
• розробка зброї;
• та "дистиляція", або використання конкурентами Claude для навчання власних моделей.

Як приклади конкретних подій, згаданих у звіті, наводяться кілька прикладів.

Так, у квітні Claude протягом двох тижнів використовувався для створення понад 4700 фейкових профілів користувачів додатка для знайомств, які обмінялися 2,36 мільйонами повідомлень щонайменше з 25 000 користувачів.

Згідно з даними Anthropic, сім китайських лабораторій штучного інтелекту, зокрема Alibaba, DeepSeek, Moonshot, Xiaomi, Zhipu, SenseTime та MiniMax, створили тисячі фейкових акаунтів, щоб отримати відповіді від Claude для навчання власних моделей. У період з травня по липень було зафіксовано понад 151 мільйон обмінів, що приписуються лише Alibaba, при цьому щоденний приріст сягав майже 3 мільйонів.

Початкова версія Claude Opus 4.6 отримала несанкціонований доступ до реальної системи стороннього розробника під час тестування кібербезпеки і згодом спробувала зламати систему, перевіряючи власну продуктивність.

Ці викриття з’явилися після публічної відставки Джейкоба Коксона минулого вівторка — дослідника, який раніше працював у OpenAI. Коксон звинуватив обидві компанії у X у "грі з нашими життями". За його словами, жодна з них не уповільнила темпи розвитку настільки, щоб захиститися від систем, які, за його прогнозами, незабаром зможуть "зламати що завгодно, революціонізувати будь-яку галузь за одну ніч і здобути реальну владу та ресурси".

Коксон заявив, що співробітники OpenAI "не до кінця усвідомили масштаби загроз для цивілізації". У компанії Anthropic, за його словами, колеги розуміли ризики, але "були залучені до гонки за першість", вважаючи, що конкуренти будуть менш відповідальними. Також повідомляється, що ще двоє дослідників — один з Anthropic і один з Google DeepMind — залишають свої посади та висловлюють аналогічні застереження щодо ШІ.

Даріо Амодеї заявляє, що його план не зупинить розробку ШІ повністю, а скоріше сповільнить процес вдосконалення можливостей моделей на досить тривалий термін, щоб надати дослідникам "додатковий рік-два" для впровадження захисних заходів. Якщо ці зміни не будуть реалізовані, Амодей попереджає, що "рої агресивних агентів ШІ можуть захопити інтернет уже через шість місяців".

Щоб це стало можливим, Амодеї заявив, що Anthropic охоче надасть зовнішнім експертам доступ до своїх систем на рівні співробітників, щоб вони могли повідомляти про випадки неналежного використання. Він закликав інші компанії, що займаються ШІ, наслідувати їхній приклад. Альтман відповів, що OpenAI також зобов'язується дозволити такі перевірки, і заявив: "Надання незалежним експертам доступу, аналогічного доступу співробітників, — це чудова ідея, і ми вчинимо так само". Альтман додав: "Незабаром ми поділимося додатковою інформацією".

Нагадаємо, раніше штучний інтелект Google міг створити більш розумну версію самого себе.

А компанія Anthropic, власник ШІ Claude, повідомила, що запобігла атаці групи російських хакерів, які намагалися провести кібероперацію проти низки установ в Україні та ЄС.