ИИ врет людям: ChatGPT засорил "Википедию" выдуманными и поддельными фактами
Основатель "Википедии" Джимми Уэйлс предложил использовать ChatGPT для помощи редакторам, но эксперимент с треском провалился. ИИ не только придумал несуществующие факты и источники, но и нарушил базовые правила энциклопедии, что вызвало недовольство сообщества.
Идея заключалась в том, чтобы использовать ИИ в качестве помощника-рецензента для проверки черновиков статей. Это могло ускорить работу волонтеров. Когда Уэйлс загрузил в ChatGPT текст для проверки, ИИ уверенно заявил, что статья соответствует всем правилам. На самом же деле, как выяснили редакторы, чат-бот выдавал желаемое за действительное, пишет Web Pro News.
ChatGPT сослался на несуществующие страницы с правилами "Википедии", придумал фейковые источники и порекомендовал использовать пресс-релизы в качестве доказательств, что прямо запрещено. Этот провал вызвал резкую реакцию со стороны редакторов. Они заявили, что любая система, склонная к "галлюцинациям" (так называют ошибки ИИ), подрывает главный принцип "Википедии" — проверяемость фактов. Это вредит репутации ресурса, которому доверяют миллионы.
Упомянутый случай — не первый неприятный опыт "Википедии" при работе с искусственным интеллектом. Ранее сообщество уже заставило Wikimedia Foundation остановить эксперимент по генерации кратких пересказов статей от нейросети. Кроме того, ввели правило быстрого удаления низкокачественного машинного контента, который редакторы презрительно называют "AI slop" ("ИИ-помои").
В итоге предложение Джимми Уэйлса отклонили. Редакторы пришли к выводу, что на данном этапе развития ИИ не только бесполезен, но и проблематичен для "Википедии", поскольку на исправление его ошибок уходит больше времени и сил, чем на написание статей с нуля.
Раньше Фокус писал: назван самый точный ИИ и это не ChatGPT — эксперты проверили популярные сервисы. Журналисты совместно с библиотекарями провели масштабное тестирование девяти популярных ИИ-сервисов, чтобы выяснить, какой из них дает самые точные ответы и реже всего "галлюцинирует". Результаты оказались неожиданными: безоговорочным лидером стал не ChatGPT, а новый AI Mode от Google.