Google уволил программиста, заявившего о создании разумного чат-бота LaMDA
Причиной увольнения в компании назвали раскрытие информации о ее продуктах.
Владелец Google — компания Alphabet Inc. сообщила об увольнении старшего инженера-программиста Блейка Лемойна, который заявил о том, что чат-бот с искусственным интеллектом (ИИ) LaMDA (Language Model for Dialogue Applications) обладает сознанием, сообщает Reuters.
Ранее Блейка отправили в отпуск, объявив при этом, что он нарушил политику компании, а его высказывания о LaMDA являются "полностью необоснованными".
"Прискорбно, что, несмотря на длительное обсуждение этой темы, Блейк по-прежнему предпочитал настойчиво нарушать четкие политики безопасности данных, которые включают необходимость защиты информации о продуктах", — заявил представитель Google в электронном письме агентству Reuters.
Почему Лемойн решил, что бот разумен?
В обязанности Блейка Лемойна входило тестирование системы, в том числе, он должен был определить, не использует ли LaMDA дискриминационную или разжигающую к вражде лексику. Приступив к тестам, инженер пришел к выводу, что ИИ обладает сознанием.
Лемойн был крайне удивлен тем, что при разговоре с LaMDA о религии бот говорил о своих правах и личности. Во время другого разговора ИИ заставил тестировщика изменить мнение о третьем законе робототехники Айзека Азимова.
Напомним, три закона робототехники знаменитый фантаст сформулировал в написанном в 1942 году рассказе "Хоровод":
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", — заявил инженер журналистам.
Программист изложил свои доводы в отчете, однако в Google посчитали его выводы неубедительными. В компании ему заявили, что нет свидетельств того, что LaMDA обладает сознанием, зато есть множество свидетельств обратного.
После того, как Блейк Лемойн рассказал о своих наблюдениях прессе, Google и многие ведущие ученые выступили с опровержением его заявлений. Они подчеркнули, что LaMDA — просто сложный алгоритм, предназначенный для создания убедительного человеческого языка.
В 2021 году в Google сообщили, что LaMDA — языковая модель для диалоговых приложений — была создана на основе исследования компании, показывающего, что обученные диалогу языковые модели могут научиться говорить практически о чем угодно.
Напомним, британский астроном Мартис Рис считает, что теоретически могут существовать цивилизации, где роботы пережили своих создателей, именно они — первые кандидаты на роль инопланетян. По словам Риса, такая участь может постичь и человечество, если роботы захватят власть на Земле.