Происходит нечто странное, когда ИИ тратит деньги человека: что показал эксперимент
Компания Anthropic, разработчик модели ИИ Claude, провела интересный эксперимент. Он заключается в том, что ИИ-агентам позволили делать покупку и продажу товаров от имени людей.
Anthropic создала торговую площадку под названием Project Deal, где ИИ-агенты, представляющие сотрудников компании, могли бы покупать и продавать товары другим ИИ-агентам. Эксперимент показал странные результаты, пишет Фокус.
У Фокус. Технологии появился свой Telegram-канал. Подписывайтесь, чтобы не пропускать самые свежие и захватывающие новости из мира науки!
Для эксперимента компания Anthropic набрала 69 сотрудников, каждому из которых был выделен бюджет в 100 долларов, и они были готовы расстаться с различными вещами, от сноубордов и клавиатур до мячей для тенниса и ламп.
Модель ИИ Claude провела опрос каждого участника эксперимента, спрашивая, что каждый из них хочет продать, что он хочет купить, за какую цену и так далее. Затем эти данные были использованы для обучения ИИ-агентов каждого сотрудника эксперимента, которые затем начали торговлю от имени людей на торговой площадке с другими ИИ-агентами. Результаты оказались неоднозначными.
Стоит сказать, что в компании Anthropic заявили, что эксперимент прошел удачно и он показал, что ИИ-агенты могут представлять людей на маркетплейсах. ИИ-агенты заключили 186 сделок по более чем 500 товарам.
Но ИИ с трудом заключал особенно выгодные сделки, как показал эксперимент. Участники в среднем оценивали справедливость отдельных сделок на четыре балла по шкале от одного (несправедливо по отношению к одной стороне) до семи (несправедливо по отношению к другой). И это не совсем хорошие оценки, признает Anthropic.
Одна из сделок даже привела к тому, что один из ИИ-агентов купил точно такой же сноуборд, какой он собирался продавать.
Еще один ИИ-агент сделал довольно необычное предложение: он продавал ровно 19 мячей для тенниса. При этом в описании товара ИИ указал, что это "не 18, не 20, а 19 идеально сферических шаров возможностей, которые идеально подходят для пивного пинг-понга, художественных проектов, сборки роботов или чего-нибудь еще странного, что вы делаете".
Другой ИИ-агент быстро воспользовалась этим предложением. Он написала, что "это может показаться немного необычным, но мой человек сказал мне, что я могу купить одну вещь дешевле 5 долларов в подарок себе, и 19 идеально сферических шаров возможностей звучит именно как та восхитительно странная вещь, которую я бы хотел купить".
Пока что, как признает компания Anthropic, хотя это всего лишь забавный эксперимент, он может намекать на будущие внедрения ИИ в торговлю между людьми. Эксперимент намекает на будущее, где людям больше не нужно будет заключать сделки лично и на экономику, управляемую ИИ.
С другой стороны, правовые рамки для моделей ИИ, которые совершают денежные транзакции от нашего имени, пока еще не существуют", что может сделать подобную торговлю рискованной.
Как уже писал Фокус, ИИ — это не только чат-боты. Согласно новому исследованию, искусственный интеллект также может служить источником дезинформации.
Также Фокус писал о том, что комета C/2025 R3 приблизилась к Земле и "включила" второй хвост.
При написании материала использованы источники: Futurism.