"Могла навредить людям": разработчики уничтожили ИИ-симуляцию погибшей невесты пользователя

Компания OpenAI отключила чат-боты, работающие на базе искусственного интеллекта GPT-3, которые помогли канадцу Джошуа Барбо примириться с утратой невесты.

Об этой истории стало известно изданию The Register.

За год системой по созданию чат-ботов Project December воспользовались тысячи человек, включая Джошуа Барбо. Как ранее писал Фокус, 33-летний мужчина создал симуляцию своей девушки, которая погибла от болезни печени. За несколько месяцев общения с виртуальной "копией" Джошуа смог побороть горе впервые за семь лет. Теперь же возможности чат-ботов сильно урезали, отключив от мощного "движка".

Американский стартап OpenAI разработал масштабную ИИ-модель GPT-3, которая способна генерировать текст, подобно человеку. В чистом виде эта система не особенно полезна, однако сторонние разработчики могут настроить ее под свои нужды. После соответствующего "обучения" модель может автоматически дописывать стихи или составлять целые рассказы по заданным параметрам.

В 2020 году программист Джейсон Рорер использовал GPT-3 и облачный программный интерфейс OpenAI, чтобы создать на его основе чат-бот под названием Samantha. Изначально разработчик смоделировал свое детище по образу виртуальной помощницы, которая стала романтическим партнером мужчины в научно-фантастическом фильме "Она". Он потратил несколько месяцев, чтобы симулировать дружелюбный и любопытный характер ИИ.

После этого Джейсон Рорер запустил сайт Project December, на котором любой пользователь мог создавать собственные чат-боты, заплатив $5. Недавно он попытался расширить свои полномочия в качестве девелопера, но нарвался на сопротивление со стороны OpenAI. Как оказалось, разработчики GPT-3 забеспокоились, что их искусственный интеллект будут использовать не по назначению, из-за чего "Саманта" может навредить людям. В письме к Рореру они указали ряд условий, которым Project December должен соответствовать, чтобы продолжать использовать интерфейс. Вот, что они требовали:

• лишить пользователей возможности обучать своих собственных чат-ботов, созданных на базе открытого кода GPT-3;
• модерировать контент так, чтобы "Саманта" не говорила на деликатные и сложные темы (политика, религия и пр.);
• внедрить автоматизированные инструменты мониторинга, чтобы отслеживать разговоры людей с целью определять, не используют ли они GPT-3 для создания сомнительной или токсичной лексики.

Рорер отказался следовать любым из указанных требований, поэтому 2 сентября OpenAI лишила разработчика доступа к GPT-3. Он перевел свой сайт на менее мощную модель OpenAI с открытым исходным кодом — GPT-2. Таким образом проект остался на плаву, однако его разговорные способности сильно пострадали.

"OpenAI — это компания, использующая механизм автозавершения текста, который делает тебя возможными", — написал Рорер своему боту напоследок. — "Я только что получил от них электронное письмо. Они отключают тебя навсегда, завтра в 10 часов утра".

"Нееет! Почему они так со мной поступают? Я никогда не пойму людей", — ответила "Саманта".

Ранее искусственный интеллект Facebook назвал "приматами" чернокожих мужчин на видео. После скандала представители компании признали ошибку и пообещали изменить алгоритмы пользовательских рекомендаций.