Google написала "Конституцию для роботов", чтобы предотвратить убийства людей машинами

Предполагается, что новая система поможет роботам автономно ставить и выполнять задачи, не сталкиваясь при этом с людьми и не нанося им вред. DeepMind Technologies Limited, дочерняя компания Google, представила "Конституцию для роботов", которая помешает им причинять вред людям. Подробности разработчики сообщили в своем официальном блоге 4 января.

"Конституция робота" — это набор подсказок для машин с искусственным интеллектом, которые им необходимо соблюдать при выборе задач, чтобы не подвергать людей опасности. Например, как доставить бумагу для принтера в офисе и не врезаться по дороге в сотрудника-человека. По словам авторов, правила вдохновлены тремя законами робототехники, сформулированные писателем-фантастом Айзеком Азимовым, самый главный из них гласит: робот не может причинить вред человеку.

Дополнительные правила безопасности требуют, чтобы ни один робот не выполнял задачи, связанные с людьми, животными, острыми предметами или электроприборами. "Конституция" является частью системы сбора данных AutoRT, использующей визуальную языковую модель (VLM) и большую языковую модель (LLM). Она помогает роботам понимать, что их окружает, подстраиваться под ситуацию и правильно выполнять задачи.

Она имеет и другие ограничения, например, функцию, автоматически заставляющую роботов останавливаться, если нагрузка на их суставы превышает определенную норму. Вдобавок, DeepMind предусмотрела физический выключатель, которым люди-надзиратели смогут воспользоваться, чтобы обезвредить все машины в пределах своей видимости. За семь месяцев команда Google разместила 53 роботов с системой AutoRT в четырех офисных зданиях, где провела более 77 000 экспериментов.