Mobileye Responsibility-Sensitive Safety (RSS)

Responsibility-Sensitive Safety (RSS) — математическая модель беспилотных автомобилей (AV), предложенная Mobileye, дочерней компанией Intel.

В целом модель RSS не является системой, позволяющей избежать ответственности, но представляет собой инновационную модель, которая, по задумке Mobileye, позволит добиться высоких стандартов безопасности эксплуатации беспилотных автомобилей.

Что не позволяет модель RSS

• RSS не позволяет беспилотным автомобилям принимать такие решения, которые привели бы к аварии.
  • С другой стороны, модель RSS все же дает возможность беспилотным автомобилям выполнять манёвры в нарушение правил, например, пересекать сплошную линию разметки, чтобы уйти от столкновения или объехать припаркованный вторым рядом автомобиль во избежание опасности. Однако модель RSS не позволяет выполнять беспилотному автомобилю какие-либо невынужденные маневры, которые сами по себе могут привести к отдельной аварии.

• Модель RSS не позволяет беспилотному автомобилю минимизировать последствия аварии за счет совершения другой аварии, пусть и с меньшими последствиями.
  • Другими словами, пытаясь избежать столкновения с автомобилем, управляемым водителем-человеком, модель RSS позволяет беспилотному автомобилю совершать любые манёвры (даже в нарушение правил дорожного движения), если эти маневры не приведут к другой аварии. Это ограничение вполне уместно, так как суждения о масштабах аварии являются субъективными и могут не учитывать какие-либо скрытые, критически значимые факторы, например, ребенка на заднем сидении автомобиля, авария с которым, казалось бы, позволила бы минимизировать последствия первой.

• В модели RSS также формализуется руководствуемое здравым смыслом рассуждение, согласно которому правом преимущественного движения можно воспользоваться только тогда, когда его предоставляют.
  • Пример: автомобиль пересекает перекресток. Зеленый свет дает автомобилю право преимущественного движения по перекрестку, но что, если перекресток оказался занят другим транспортным средством (например, проехавшим на красный свет). В этом случае модель RSS не дает беспилотному автомобилю прав столкнуться с автомобилем, возникшем на дороге – иначе в этом случае беспилотный автомобиль, согласно модели RSS, будет виновен в аварии.

Тем не менее, если общественность считает нужным сохранить возможность минимизировать последствия одной аварии за счет другой, то при определенных условиях такой алгоритм можно добавить в формулу RSS, сохранив при этом принцип «преемственности вины ответственности», согласно которому ответственность за все инциденты будет возложена на того участника дорожного движения, по вине которого началась вся цепочка. Мы решили пока не использовать эту возможность в нашей модели, но это вполне реализуемо, — пояснил профессор Амнон Шашуа, CEO и CTO Mobileye, старший вице-президент Intel.

2017: Разработка

Как стало известно в ноябре 2017 года, компания Mobileye разработала и продолжает развивать математическую модель беспилотных автомобилей Responsibility-Sensitive-Safety (RSS), которая демонстрирует необходимость формирования стандартов определения ответственности в случае аварии, а также стандартов безопасности беспилотных автомобилей.

При разработке модели Responsibility-Sensitive Safety в компании рассчитывали, что она послужит своеобразным катализатором для межотраслевой дискуссии, в которой примут участие различные индустриальные группы, автопроизводители и органы управления.Как с помощью EvaProject и EvaWiki построить прозрачную бесшовную среду для успешной работы крупного холдинга

Как модель RSS формализует дилеммы при управлении автомобилем

Как пояснил профессор Амнон Шашуа, CEO и CTO Mobileye, старший вице-президент Intel, RSS формализует здравый смысл человеческих суждений в самых различных дорожных ситуациях. Модель устанавливает четкие определения того, что означает безопасное вождение, а что, наоборот, относится к опасному вождению. Когда автомобилем управляет человек, интерпретация ответственности в случае аварий или других инцидентов может варьироваться довольно широко. Не важно, случилась ли авария по ошибке водителя или нет, ответственность в любом случае устанавливается исходя из недостаточно полной информации и прочих факторов, которые интерпретируются постфактум. В случае автономного вождения, эти определения могут быть формализованы и представлены в математическом виде.

Машины располагают чрезвычайно точной информацией об окружающих объектах, всегда регистрируют время своей реакции и тормозные усилия, они никогда не отвлекаются от дорожной ситуации и не знают усталости. Поэтому, когда автомобилем управляет компьютер, не нужно интерпретировать его действия постфактум. Вместо этого возможно запрограммировать его таким образом, чтобы он следовал определенному алгоритму или некой стандартной схеме (determined pattern). Все, что для этого нужно — иметь возможность формализовать эту схему, пояснил Шашуа.

По своей сути, модель RSS создана для формализации тех дилемм, с которыми люди сталкиваются при управлении автомобилем, а также для помещения их в конкретный контекст. В частности, модель позволяет:

• формализовать понятия безопасной дистанции и безопасного расстояния при маневрах перестроения или вклинивании в поток,
• определять участников дорожного движения, осуществляющих перестроения, чтобы своевременно принимать необходимые меры и соблюдать безопасную дистанцию,
• формализовать право преимущественного проезда,
• дать определение безопасного вождения в случае ограниченного восприятия (например, когда участники дорожного движения могут быть скрыты за зданиями или припаркованными автомобилями и внезапно появиться на дороге), и многое другое.

В целом модель RSS пытается выстроить формальную основу, которая бы установила все аспекты человеческих суждений в контекст управления автомобилем с целью создания своеобразной «печати безопасности» (seal of safety), формальной гарантии безопасности беспилотных автомобилей.

Мы не можем ограничиваться использованием модели RSS только в наших технологиях автономного вождения. Чтобы обеспечить полноценные гарантии безопасности, мы будем требовать общественного принятия и формирования прозрачных стандартов интегрирования человеческих суждений в принятие решений беспилотными автомобилями. Мы убеждены, что сможем сделать дорожное движение в тысячу раз безопаснее с точки зрения аварий, вызванных должным образом сконструированными беспилотными автомобилями, по сравнению с авариями, спровоцированными людьми, — заявил Амнон Шашуа.

Робототехника