Google написала "Конституцию для роботов", чтобы предотвратить убийства людей машинами
Предполагается, что новая система поможет роботам автономно ставить и выполнять задачи, не сталкиваясь при этом с людьми и не нанося им вред.
DeepMind Technologies Limited, дочерняя компания Google, представила "Конституцию для роботов", которая помешает им причинять вред людям. Подробности разработчики сообщили в своем официальном блоге 4 января.
"Конституция робота" — это набор подсказок для машин с искусственным интеллектом, которые им необходимо соблюдать при выборе задач, чтобы не подвергать людей опасности. Например, как доставить бумагу для принтера в офисе и не врезаться по дороге в сотрудника-человека.
По словам авторов, правила вдохновлены тремя законами робототехники, сформулированные писателем-фантастом Айзеком Азимовым, самый главный из них гласит: робот не может причинить вред человеку. Дополнительные правила безопасности требуют, чтобы ни один робот не выполнял задачи, связанные с людьми, животными, острыми предметами или электроприборами.
"Конституция" является частью системы сбора данных AutoRT, использующей визуальную языковую модель (VLM) и большую языковую модель (LLM). Она помогает роботам понимать, что их окружает, подстраиваться под ситуацию и правильно выполнять задачи. Она имеет и другие ограничения, например, функцию, автоматически заставляющую роботов останавливаться, если нагрузка на их суставы превышает определенную норму. Вдобавок, DeepMind предусмотрела физический выключатель, которым люди-надзиратели смогут воспользоваться, чтобы обезвредить все машины в пределах своей видимости.
За семь месяцев команда Google разместила 53 роботов с системой AutoRT в четырех офисных зданиях, где провела более 77 000 экспериментов. Одними машинами удаленно управляли операторы, другие же работали по заданной программе или полностью автономно, задействовав модель обучения ИИ Robotic Transformer (RT-2).
Сами роботы не выглядят опасными, ведь оснащены мобильной платформой камерой и передвижной платформой. Каждый из них использует визуальную модель ИИ, чтобы оценивать окружающую среду и определять объекты в пределах видимости. Затем языковая модель предлагает список задач, которые можно выполнить, например, положить предмет на стол — именно она принимает решения, что именно нужно делать.
Среди других новых технологий DeepMind выделила SARA-RT, особую архитектуру нейронной сети, призванную сделать роботов-трансформеров с RT-2 быстрее и точнее. Инженеры также упомянули технология RT-Trajectory, которая показывает роботам 2D-контуры в пространстве, помогая лучше лучше справляться с физическими задачами, такими как протирание стола.
В ноябре стало известно, что робот убил человека на заводе в Южной Корее. Предполагается, что автомат для погрузки принял жертву за ящик с овощами и случайно прижал к оборудованию для сортировки. Мужчина получил серьезные травмы и скончался в больнице.
Писали также, что робот напал на сотрудника-человека на заводе Tesla в США. Машина проткнула рабочего своими металлическими частями, нанеся рваные и резанные раны. К счастью, коллегам удалось оттащить мужчину и оказать ему необходимую помощь.