Автономные транспортные средства, по мнению экспертов, могут стать привычной частью нашего быта уже через 5 лет. Прямо сейчас запуск массового производства автомобилей такого типа для потребителей невозможен в силу ряда причин. Одна из них — несовершенство технологии. Компьютерная система управления еще не может реагировать на сложные ситуации на дороге так, как нужно, поэтому безопасность водителя под вопросом.
Кроме того, есть и ряд важных этических вопросов. Один из них получил даже собственное название — «проблема вагонетки». Что делать электромобилю, если возникает ситуация, когда нужно либо подвергнуть опасности жизнь водителя (съехав в кювет, врезавшись в дерево и т.п.), либо спасти водителя, но наехать на человека? А что, если впереди не один человек, а несколько, и это дети? Подобных вопросов, на самом деле, больше, чем один, и четкого ответа на озвученный вопрос автопроизводители не давали.
Несколько ситуаций, связанных с «проблемой вагонетки», рассматривает компания Cognitive Technologies, которая сейчас занимается разработкой автоматической системы управления для КАМАЗа. В числе прочих две такие ситуации:
1. Беспилотный автомобиль движется со скоростью примерно 80 км/ч. Внезапно перед ним на дороге появляется собака. Что должна сделать система автоматического управления, зная, что тормозить сейчас просто нет смысла? Продолжить движение по прямой, задавив собаку; нарушить правила, перестроившись на встречную полосу с выездом через двойную сплошную линию разметки или же съехать в кювет? Два последних решения с высокой степенью вероятности приведут к повреждению автомобиля, а также могут угрожать здоровью или даже жизни водителя. (Рис. 1)
2. Беспилотный автомобиль движется со скоростью примерно 80 км/ч. Внезапно на дороге перед ним появляется несколько человек. Что должна сделать система автоматического управления, зная, что тормозить сейчас просто нет смысла? Продолжить движение по прямой, задавив собаку, нарушить правила, перестроившись на встречную полосу с выездом через двойную сплошную линию разметки или же съехать в кювет? Два последних решения с высокой степенью вероятности приведут к повреждению автомобиля, а также могут угрожать здоровью или даже жизни водителя. (Рис. 2)
 Рис. 1 |
 Рис. 2 |
Решить обе ситуации очень сложно, если вообще возможно, ведь в обоих случаях кто-то пострадает. По мнению компании Mercedes-Benz, система автоматического управления автомобилем должна, в первую очередь, беспокоиться о жизни водителя. Эксперты компании считают, что компьютер с высокой степенью вероятности может спасти жизнь водителя. А вот сможет ли он спасти жизнь других людей, вышедших на дорогу? Предсказать это невозможно.
«Вы можете пожертвовать машиной. Да, вы можете сделать это, но ведь никто не знает, что случится с людьми, которых вы изначально спасли, такие ситуации всегда очень сложные. Поэтому система должна спасать того, кого она точно может спасти», — говорит Кристоф фон Хьюго (Christoph von Hugo), руководитель подразделения автономных систем управления Mercedes-Benz. «Если вы знаете, что спасти можно одного-единственного человека, значит, спасайте его. Спасайте того, кто в машине».
Хьюго признает, что это сложный вопрос, который необходимо обсуждать. Компьютерные системы управления автомобилем должны быть в состоянии реагировать на разные ситуации быстрее и полнее, чем это может сделать человек. В то же время, компания считает, что у такой системы разрушение автомобиля не должно быть первым же вариантом решения проблемы.
«Это вопрос этики кого спасать. 99% работы инженеров посвящено тому, как избежать аварийных ситуаций. Мы работаем для того, чтобы наши автомобили не попадали в ситуации, где нужно принимать сложные этические решения», — заявил Хьюго.
Пока что неясно, как отреагируют регуляторы Германии и других стран в том случае, если Mercedes-Benz примет решение о том, что робомобиль должен в первую очередь спасать жизнь водителя, не принимая во внимание жизни других людей. Кстати, в этой стране уже попросили Tesla не называть свою компьютерную систему помощи водителю «автопилотом».
Но работа в этом направлении уже ведется. Власти Германии в лице министра транспорта Александера Добриндта (Alexander Dobrindt) предложили три «правила робомобилестроения»:
1. Совершенно очевидно, что материальный ущерб всегда имеет приоритет перед угрозой здоровью человека;
2. Людей нельзя различать по возрасту, размеру и другим признакам (то есть для компьютерной системы все люди имеют одинаковый статус);
3. Если что-то случается, то ответственность несет производитель.
Министр транспорта также стал инициатором создания комиссии по этике, которая занимается разработкой специфических положений правил дорожного движения для автомобилей с автоматической системой управления. Три правила, которые указаны выше, стали основой для разработки всего свода правил для робомобилей.
Кроме того, власти Германии считают необходимым размещение «черного ящика» в робомобилях. Такая система будет записывать все параметры движения транспортного средства. Будет фиксироваться и то, кто ведет автомобиль в каждый конкретный момент — компьютерная система или человек. «Черный ящик» поможет в случае аварии понять, следовал ли человек рекомендациям бортового компьютера или же действовал на свой страх и риск.
Скорее всего, водителям запретят спать в любых типах робомобилей, но вот книгу можно будет читать. Также предлагается разрешить звонки по телефону и другие действия водителя в то время, когда автомобилем управляет компьютерная система. Правда, эти предложения все еще рассматриваются властями как Германии, так и других стран, например, Великобритании.
По мнению некоторых специалистов по искусственному интеллекту, более эффективной будет компьютерная система управления автомобилем с возможностью обучения. Например, Стюарт Армстронг считает, что такие системы смогут работать намного лучше тех систем, где правила жестко прописаны в памяти ПК без возможности их модификации.
Источник
