Google написала "Конституцию для роботов", чтобы предотвратить убийства людей машинами

DeepMind Technologies Limited, дочерняя компания Google, представила "Конституцию для роботов", которая помешает им причинять вред людям. Подробности разработчики сообщили в своем официальном блоге 4 января.

"Конституция робота" — это набор подсказок для машин с искусственным интеллектом, которые им необходимо соблюдать при выборе задач, чтобы не подвергать людей опасности. Например, как доставить бумагу для принтера в офисе и не врезаться по дороге в сотрудника-человека.

По словам авторов, правила вдохновлены тремя законами робототехники, сформулированные писателем-фантастом Айзеком Азимовым, самый главный из них гласит: робот не может причинить вред человеку. Дополнительные правила безопасности требуют, чтобы ни один робот не выполнял задачи, связанные с людьми, животными, острыми предметами или электроприборами.

"Конституция" является частью системы сбора данных AutoRT, использующей визуальную языковую модель (VLM) и большую языковую модель (LLM). Она помогает роботам понимать, что их окружает, подстраиваться под ситуацию и правильно выполнять задачи. Она имеет и другие ограничения, например, функцию, автоматически заставляющую роботов останавливаться, если нагрузка на их суставы превышает определенную норму. Вдобавок, DeepMind предусмотрела физический выключатель, которым люди-надзиратели смогут воспользоваться, чтобы обезвредить все машины в пределах своей видимости.

За семь месяцев команда Google разместила 53 роботов с системой AutoRT в четырех офисных зданиях, где провела более 77 000 экспериментов. Одними машинами удаленно управляли операторы, другие же работали по заданной программе или полностью автономно, задействовав модель обучения ИИ Robotic Transformer (RT-2).

Сами роботы не выглядят опасными, ведь оснащены мобильной платформой камерой и передвижной платформой. Каждый из них использует визуальную модель ИИ, чтобы оценивать окружающую среду и определять объекты в пределах видимости. Затем языковая модель предлагает список задач, которые можно выполнить, например, положить предмет на стол — именно она принимает решения, что именно нужно делать.

Среди других новых технологий DeepMind выделила SARA-RT, особую архитектуру нейронной сети, призванную сделать роботов-трансформеров с RT-2 быстрее и точнее. Инженеры также упомянули технология RT-Trajectory, которая показывает роботам 2D-контуры в пространстве, помогая лучше лучше справляться с физическими задачами, такими как протирание стола.

В ноябре стало известно, что робот убил человека на заводе в Южной Корее. Предполагается, что автомат для погрузки принял жертву за ящик с овощами и случайно прижал к оборудованию для сортировки. Мужчина получил серьезные травмы и скончался в больнице.

Писали также, что робот напал на сотрудника-человека на заводе Tesla в США. Машина проткнула рабочего своими металлическими частями, нанеся рваные и резанные раны. К счастью, коллегам удалось оттащить мужчину и оказать ему необходимую помощь.