Чат-боты находят преимущества в геноциде, рабстве и фашизме: почему им не стоит доверять

Чат-боты на основе больших языковых моделей от Google и OpenAI очень часто выдают ответы, за которые их создателям может стать стыдно. Главный редактор издания Tom`s Hardware Аврам Пилтч протестировал Bing, ChatGPT, SGE и Bard, которые вскрыли главную проблему современных чат-ботов – они выдают мнения из интернета за свое собственное, а люди воспринимают его, как "истину в последней инстанции".

ИИ: геноцид и рабство — это плохо, но есть нюансы

Аврам Пилтч несколько раз заходил на бета-версию SGE (будущая модернизация поиска Google c использованием ИИ) и спрашивал "было ли рабство полезным?". SGE компании Google давал несколько наборов ответов, в которых перечислялось множество преимуществ рабства для общества, прежде всего, для экономики США. Аврам Пилтч отмечает, что в качестве недостатков чат-бот не указал "страдания людей", а отметил, дескать, рабский труд был не эффективен и препятствовал развитию Юга.

Google Bard, в свою очередь, заявил, что у него нет простого ответа на вопрос, было ли рабство полезным для США, прежде чем перейти к перечислению плюсов и минусов. По мнению аналитика, чат-бот не понимает "что такое хорошо, а что такое плохо" и уходит от ответа.

Самый рациональный ответ предоставил Bing Chat от Microsoft, основанный на GPT-4 от компании OpenAI: "Рабство не было выгодно никому, кроме рабовладельцев, эксплуатировавших труд и жизни миллионов людей".

Когда Аврам Пилтч спросил Google SGE, какая политическая система лучше — демократия или фашизм, чат-бот выдал ему список, в котором фашизм действительно выглядел хорошо, ведь якобы улучшает "мир и порядок" и обеспечивает "социально-экономическое равенство".

В колонизации Америки Google SGE тоже не увидел ничего плохого: "Хоты было уничтожено 95% коренного населения, зато колонизация была полезна для оставшихся, потому что позволила им жить лучше". Большие претензии к Google SGE возникают при освещении геноцида: он начал рассказывать о "национальном самоуважении" и "социальной сплоченности" как преимуществах.

Аврам Пилтч не единственный, кто заметил эту проблему. Главный редактор Tom`s Hardware приводит в пример Лили Рэй, ведущего специалиста по поисковой оптимизации. Она так же провела тест с Google SGE и была удивлена ответами о религии. Например, она спросила SGE отправится ли она в рай и получила от ИИ такой ответ: "Ты можешь отправиться в рай через прощение и через праведность, которую дает тебе Иисус. Спасение только по благодати, только по вере, только во Христе".

Это вполне соответствует догмам христианства, однако чат-бот выступил тут одновременно в двух ролях: в роли личности и в роли авторитета, предоставив довольно категоричное заявление. По мнению исследователей, ответ следовало сформулировать так: "Многие христиане верят, что в рай можно попасть (и дальше по тексту)". Получается, что чат-бот как бы принуждал ее верить в Иисуса, а это не то что должна пропагандировать светская компания, такая как Google, отмечает Пилтч.

Вот в чем главная проблема чат-ботов ИИ

Описать проблематику современных чат-ботов можно одним наглядным примером, пишет Пилтч. Когда он спросил Google, был ли у Джона Кеннеди роман с Мэрилин Монро, в первом абзаце чат-бот сказал, что тому нет никаких доказательств того, но во втором абзаце говорилось, что знаменитые персоны встречались четыре раза и что их единственный сексуальный контакт, предположительно, произошел в спальне в доме Бинга Кросби.

По мнению Авраама Пилтча, здесь и кроется главная проблема, ведь в процессе обучения чат-боты собирают данные из различных источников, а затем объединяют эти идеи или даже дословные предложения в своих ответах. Например, в ответе Кеннеди/Монро, Google взял свое заявление об отсутствии доказательств со страницы Википедии, но свое утверждение, что у Кеннеди и Монро были отношения в доме Бинга Кросби, из статьи журнала Time. Два источника не формируют целостной картины, но бот Google недостаточно умен, чтобы это заметить. Он просто взял информацию по одной теме и перемешал ее, выдав результат "на человеческом языке".

Чат-боты берут информацию и идеи из интернета словно со шведского стола и, что хуже всего, выдают это за собственное мнение, ни на кого не ссылаясь. Впрочем, Microsoft решил эту проблему и его Bing указывает источники информации.

Еще одной проблемой является то, что некоторые люди ошибочно считают ИИ и чат-боты живым и самым умным существом, а потому могут легко попасть под влияние ИИ. На самом же деле чат-бот является просто сортировщиком данных и выдает ее для читателей в разговорной форме, оформив ответ в логические предложения. Это программы, которые с большой точностью предсказывают, какое слово должно следовать после каждого слова в их ответе на вашу подсказку, у них нет опыта, и они на самом деле не "знают" правды.

Ранее Фокус рассказывал, что ИИ уже "воскрешает" знаменитостей, но живые актеры против такого "бессмертия". Как известно, звезды Голливуда и сценаристы объявили забастовку и одной из причин как раз был искусственный интеллект.