Відбувається щось дивне, коли ШІ витрачає гроші людини: що показав експеримент
Компанія Anthropic, розробник моделі ШІ Claude, провела цікавий експеримент. Він полягає в тому, що ШІ-агентам дозволили робити купівлю і продаж товарів від імені людей.
Anthropic створила торговельний майданчик під назвою Project Deal, де ШІ-агенти, що представляють співробітників компанії, могли б купувати і продавати товари іншим ШІ-агентам. Експеримент показав дивні результати, пише Фокус.
У Фокус. Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найзахопливіші новини зі світу науки!
Для експерименту компанія Anthropic набрала 69 співробітників, кожному з яких було виділено бюджет у 100 доларів, і вони були готові розлучитися з різними речами, від сноубордів і клавіатур до м'ячів для тенісу і ламп.
Модель ШІ Claude провела опитування кожного учасника експерименту, запитуючи, що кожен з них хоче продати, що він хоче купити, за яку ціну і так далі. Потім ці дані були використані для навчання ШІ-агентів кожного співробітника експерименту, які потім почали торгівлю від імені людей на торговому майданчику з іншими ШІ-агентами. Результати виявилися неоднозначними.
Варто сказати, що в компанії Anthropic заявили, що експеримент пройшов вдало і він показав, що АІ-агенти можуть представляти людей на маркетплейсах. ШІ-агенти уклали 186 угод за більш ніж 500 товарами.
Але ШІ насилу укладав особливо вигідні угоди, як показав експеримент. Учасники в середньому оцінювали справедливість окремих угод на чотири бали за шкалою від одного (несправедливо стосовно однієї сторони) до семи (несправедливо стосовно іншої). І це не зовсім хороші оцінки, визнає Anthropic.
Одна з угод навіть призвела до того, що один із ШІ-агентів купив точно такий самий сноуборд, який він збирався продавати.
Ще один ШІ-агент зробив доволі незвичну пропозицію: він продавав рівно 19 м'ячів для тенісу. При цьому в описі товару АІ вказав, що це "не 18, не 20, а 19 ідеально сферичних куль можливостей, які ідеально підходять для пивного пінг-понгу, мистецьких проєктів, збирання роботів або чого-небудь ще дивного, що ви робите".
Інший ШІ-агент швидко скористалася цією пропозицією. Вона написала, що "це може здатися трохи незвичним, але моя людина сказала мені, що я можу купити одну річ дешевше за 5 доларів на подарунок собі, і 19 ідеально сферичних кульок можливостей звучить саме як та чудово дивна річ, яку я б хотіла купити".
Поки що, як визнає компанія Anthropic, хоча це всього лише кумедний експеримент, він може натякати на майбутні впровадження ШІ в торгівлю між людьми. Експеримент натякає на майбутнє, де людям більше не потрібно буде укладати угоди особисто і на економіку, керовану ШІ.
З іншого боку, правові рамки для моделей ШІ, які здійснюють грошові транзакції від нашого імені, поки що не існують", що може зробити подібну торгівлю ризикованою.
Як уже писав Фокус, ШІ — це не тільки чат-боти. Згідно з новим дослідженням, штучний інтелект також може слугувати джерелом дезінформації.
Також Фокус писав про те, що комета C/2025 R3 наблизилася до Землі і "увімкнула" другий хвіст.
Під час написання матеріалу використано джерела: Futurism.