Google написала "Конституцію для роботів", щоб запобігти вбивствам людей машинами

DeepMind Technologies Limited, дочірня компанія Google, представила "Конституцію для роботів", яка завадить їм завдавати шкоди людям. Подробиці розробники повідомили у своєму офіційному блозі 4 січня.

"Конституція робота" — це набір підказок для машин зі штучним інтелектом, яких їм необхідно дотримуватися під час вибору завдань, щоб не наражати людей на небезпеку. Наприклад, як доставити папір для принтера в офісі і не врізатися дорогою у співробітника-людину.

За словами авторів, правила натхненні трьома законами робототехніки, сформульованими письменником-фантастом Айзеком Азімовим, найголовніший з яких свідчить: робот не може завдати шкоди людині. Додаткові правила безпеки вимагають, щоб жоден робот не виконував завдання, пов'язані з людьми, тваринами, гострими предметами або електроприладами.

"Конституція" є частиною системи збору даних AutoRT, що використовує візуальну мовну модель (VLM) і велику мовну модель (LLM). Вона допомагає роботам розуміти, що їх оточує, підлаштовуватися під ситуацію і правильно виконувати завдання. Вона має й інші обмеження, наприклад, функцію, що автоматично змушує роботів зупинятися, якщо навантаження на їхні суглоби перевищує певну норму. До того ж, DeepMind передбачила фізичний вимикач, яким люди-наглядачі зможуть скористатися, щоб знешкодити всі машини в межах своєї видимості.

За сім місяців команда Google розмістила 53 роботів із системою AutoRT у чотирьох офісних будівлях, де провела понад 77 000 експериментів. Одними машинами віддалено керували оператори, інші ж працювали за заданою програмою або повністю автономно, задіявши модель навчання ШІ Robotic Transformer (RT-2).

Самі роботи не виглядають небезпечними, адже оснащені мобільною платформою камерою та пересувною платформою. Кожен із них використовує візуальну модель ШІ, щоб оцінювати навколишнє середовище та визначати об'єкти в межах видимості. Потім мовна модель пропонує список завдань, які можна виконати, наприклад, покласти предмет на стіл — саме вона приймає рішення, що саме потрібно робити.

Серед інших нових технологій DeepMind виділила SARA-RT, особливу архітектуру нейронної мережі, покликану зробити роботів-трансформерів з RT-2 швидшими і точнішими. Інженери також згадали технологію RT-Trajectory, яка показує роботам 2D-контури в просторі, допомагаючи краще справлятися з фізичними завданнями, такими як протирання столу.

У листопаді стало відомо, що робот убив людину на заводі в Південній Кореї. Передбачається, що автомат для навантаження прийняв жертву за ящик з овочами і випадково притиснув до обладнання для сортування. Чоловік отримав серйозні травми і помер у лікарні.

Писали також, що робот напав на співробітника-людину на заводі Tesla у США. Машина проткнула робітника своїми металевими частинами, завдавши рвані та різані рани. На щастя, колегам вдалося відтягнути чоловіка і надати йому необхідну допомогу.