Співробітник Google виявив ознаки свідомості у штучного інтелекту
Розмовляючи з ШІ про релігію, розробник у компанії Google помітив, що чат-бот LaMDA говорить про свої права та особи. В іншій розмові ШІ зміг змінити думку співрозмовника про третій закон робототехніки Айзека Азімова.
Інженер із програмного забезпечення компанії Google Блейк Лемуан заявив, що виявив ознаки власної свідомості у штучного інтелекту LaMDA (Language Model for Dialogue Applications — ред). У відповідь на таке твердження керівництво відсторонило його від роботи. Про це повідомляє американське видання The Washington Post.
До обов'язків Блейка Лемуана входило тестування системи. Зокрема, він повинен був визначити, чи не використовує LaMDA дискримінаційну або лексику, що розпалює ворожнечу. Натомість фахівець дійшов висновку, що ШІ має власну свідомість.
Розмовляючи з LaMDA про релігію, Лемуан зауважив, що чат-бот говорить про свої права та особи. В іншій розмові ШІ зміг змінити думку Лемуана про третій закон робототехніки Айзека Азімова.
"Якби я не знав напевно, що маю справу з комп'ютерною програмою, яку ми недавно написали, то я б подумав, що говорю з дитиною семи чи восьми років, яка з якоїсь причини виявилася знавцем фізики", — заявив інженер.
За підсумками своєї роботи Лемуан зробив письмовий звіт, але керівництво Google вважає аргументацію розробника непереконливою. Його відправили в оплачувану відпустку.
"Йому сказали, що докази того, що LaMDA має свідомість, відсутні. Водночас є безліч доказів протилежного", — йдеться в заяві офіційного представника Google Браяна Гебріела.
Нагадаємо, британський астроном Мартіс Ріс вважає, що теоретично існують цивілізації, де роботи пережили своїх творців. За його словами, така доля може спіткати і людей на Землі, якщо роботи захоплять владу на планеті.