8595
3
Эксперты хотят понять, как научить самоуправляемые автомобили принимать правильные решения с точки зрения морали.
Представьте, что у вашего автомобиля отказали тормоза. И перед вами встаёт выбор: сбить переходящих дорогу пожилых людей или свернуть в сторону, задавив женщину с коляской. А что в такой ситуации должен сделать беспилотный автомобиль, задались вопросом в Массачусетском технологическом институте США. Ученые решили выяснить, как беспилотные автомобили должны решать вопрос о жизни и смерти, не идя в разрез с общественной моралью.
Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых. Авторы проекта намерены через ответы реальных пользователей понять, какая моральная оценка общества на то или иное действие. Это понимание, считают ученые, в будущем позволят смоделировать возможное поведение компьютера, управляющего беспилотником.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Источник:
Ссылки по теме:
- Станция обслуживания велосипеда
- 11 лучших ретро-рейсингов
- 6 удивительно плохих идей величайших гениев в истории
- Подборка автомобильных приколов
- Ремонт дорог по–ярославски
Новости партнёров
реклама
Для защиты же пешеходов нужно просто выкинуть из ПДД идиотское требование уступать им дорогу. Вернее, не выкинуть, а чётко разграничить ответственность:
водитель должен уступить дорогу пешеходу, желающему перейти по зебре и жестами показывающему это. не уступил -- штраф сто рублей. и только. независимо ни от чего, кроме сторублёвого штрафа водитель НИКАК не отвечает за нарушение этого пункта (разумеется, исключая случай, когда он переедет пешехода намеренно, введя его перед этим в заблуждение, сделав вид, что пропускает его и выманив таким образом на дорогу).
пешеход не имеет права выйти на дорогу вне РЕГУЛИРУЕМОГО перехода (оснащённого светофором), не убедившись, что его пропускают (или дорога пуста). То есть, и на "зебру" тоже. И на регулируемом переходе на красный тоже. Вышел -- полностью и абсолютно отвечает за собственную безопасность и будет виновен, если случится ДТП с его участием. Независимо ни от чего. Вышел на дорогу, попал под машину -- сам виноват. Разумеется, кроме случая исключения, упомянутого выше.
да, в теории в пдд есть ещё п4.5, требующий от пешеходов убедиться, что их пропускают, но на практике вину с водителя нарушение пешеходом этого пункта не снимает.
насчёт правоприменительной практики -- русский суд судит не по закону, а "по понятиям", увы. Если судья считает, что вы виноваты -- любые доводы в вашу защиту будут просто проигнорированы.
Тут ещё один аспект: прокуратуре выгодно довести дело до суда, а судье невыгодно выносить оправдательный приговор, т.к. в этом случае прокуратура получает по шапке и обижается на судью.
Вообще, если у судьи по уголовным делам в год один-два оправдательных приговора -- это уже считается "добрый" и "честный" судья, прокуратура таких не любит.
как по мне, так этих людей в первую очередь давить надо. жаль, что эта машина скорее всего их врядли сможет вычеслить.
машина должна действовать согласно ПДД, а именно: жать на тормоз, тормозить двигателем, подставлять угол.
если нет возможности избежать ДТП никак - виноват в этом владелец и пилот авто, не проверивший прочность и надёжность машины, а вовсе не пешеходы, оказавшиеся случайным образом возле сломанного авто.
пилот, владелец или ответсвенное за управление лицо в любом случае должен быть.
Кто нарушил правила, тот и страдает.
К слову, в законах всех стран прописано, что дискриминация по возрасту это нарушение, а вы толкаете именно на это.
И, да, в пдд нет запрета на маневрирование. Есть то, что сделать необходимо, остальное - на свой страх и риск.
Да и с массовым распространением ИИ в области управления транспортом придется менять законодательную базу. Не вижу при этом проблем стандартизировать модели поведения ИИ при внезапном появлении человека на траектории движения ТС.
В задаче изначально выставлены грубые рамки обсуждения.
1. Если расширить понятие "Мыслить", то можно предположить, что пешеходы могут услышать физг тормозов и отреагировать на прямо двигающийся автомобиль быстрее и правильнее, нежели на двигающийся автомобиль по кривой траектории.
2. На встречной полосе обрезан участок дороги до "небалуйся", поэтому опять же ограничивают в размышлениях - на встречной может быть еще 1 автомобиль.
Последствия всегда трагичнее при торможении в своей полосе.
На официальном сайте U.S. Departament of Transportation 20.09.2016 года был опубликован документ "Federal Automated Vehicles Policy" (далее FAVP). По духу и букве он является попыткой сформулировать и предложить общественности обсудить ключевые проблемы внедрения автомобилей с автономным управлением. В документе 160 страниц, язык английский, посему ограничимся лишь главой 11 "Ethical Considerations" (дословно: "Этические соображения"). Основные положения и в самом кратком изложении:
1. Все будущие дорожные ситуации предусмотреть нельзя.
2. Ключевыми для беспилотников являются три принципа: мобильность, безопасность, соблюдение законодательства. Но все их действия должны быть понятны и предсказуемы для окружающих.
3. Если для обеспечения мобильности (не в ущерб безопасности) все-таки потребуется отступить от требований законодательства, включая ПДД, беспилотник должен это делать. Например, пересечь сплошную линию разметки для объезда препятствия, аварийного или неправильно припаркованного автомобиля...
4. Однако если ДТП неизбежно, система управления должна предпринять все действия чтобы минимизировать ущерб.
Но здесь (п.4) возникает дилемма, а в некоторых случаях прямой конфликт интересов. Даже по приоритету - кого именно в критических случаях можно подвергнуть максимальной угрозе жизни и здоровью: пассажиров беспилотника, кстати, защищенных системами активной и пассивной безопасности автомобиля (а какими они будут через 10-15 лет?) или внезапно выбежавшего на дорогу в нарушении ПДД пешехода (ребенка), не защищенного ничем... Решая задачи теста, Вы этот учитывали? Кстати, мне попалась фраза из интервью одного из российских специалистов о том, что такой проблемы не существует, робот не имеет права принимать решения и если в ПДД записано тормозить, то значит - тормозить. "А то, объезжая одного ребенка, можно автобус с пятьюдесятью детьми увести на встречную полосу"... Однако напомню: система противоподкатной защиты типа Front Collision Guard (стандартное решение для автобусов Mercedes-Benz и Setra, есть у Volvo c другим названием) способна сохранить жизненное пространство салона при фронтальном ударе на 40 км/ч в бетонную стену. Но что будет с ребенком, которого ударит автобус даже на 20 км/ч? Ведь он может подмять ребенка под себя... Впрочем, лидар, если обнаружит на встречке приближающийся автомобиль, никогда позволит автобусу выехать ему "в лоб". И, собственно, что такого, если в нерасчетной ситуации для предотвращения ДТП, придется выехать на свободную встречную полосу, причем - не создавая аварийной ситуации?
Скажу более. Летом 2016 года концерн ZF Friedrichshafen AG показал систему Evasive Maneuver Assist (EMA). Она является функцией системы автоматического торможения при критическом сокращении дистанции. Ибо бывают ситуации, когда тормозного пути не хватает. Решая задачи теста, Вы этот учитывали? Но электроника уже способна такую ситуацию распознать. Ибо альтернатива бить на пустой дороге внезапно остановившейся автомобиль! Бить 40-тонной фурой легковушку, в салоне которой могут быть дети? Посему ZF (совместно с WABCO) предлагает систему активной безопасности - в серии с 2018 года, способную в критической ситуации недостаток дистанции для торможения компенсировать маневром отворота... Иными словами, ЕМА понимая, что наезд на препятствие неизбежен, в последний момент уводит грузовик на соседнюю полосу. Пока она не автоматическая, так как команду на начало маневра подает водитель одним резким движением рулевого колеса в соответствующую сторону. Однако считается, что в критической ситуации он, если бы выполнял подобный маневр самостоятельно, мог бы неверно оценить скорость, дистанцию, "недокрутить" или "перекрутить" руль, что привело бы к потере управления автомобилем - напомню речь идет об автопоезде длиной 18 метров и разрешенной полной массой 40 тонн. Со своей стороны электроника EMA, используя системы поддержания курсовой устойчивости (ESC), экстренного торможения (AEBS) и помощи движению по полосе (LDW) может провести такой маневр более корректно. Но ведь робот тоже должен иметь право на использование ЕМА!
Более того. Если задуматься о двух последних пунктах (3 и 4), то думаю, со мной можно согласиться: подобные решения на дороге зачастую принимает водитель. Только результат зависит от множества переменных: возраст, стаж (опыт), степень подготовки, включая дополнительные обучения, психологическое и физическое состояние. Робот, опирающийся на всю совокупность систем автомобиля, лишен таких недостатков. Но ведь могут быть дорожные ситуации, когда безопасность одного человека можно обеспечить только за счет другого. А какие должны быть критерии для принятия решения в таком случае?
И еще по четвертому пункту. Иногда говорят, что в результате робот получит право на убийство и Первый закон робототехники отменен. Но раз уж мы и в такие "дебри" уходим, напомню, что он гасит: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред". Однако что такое "бездействие", например, в критической, нерасчетной дорожной ситуации? А может то самое торможение, прописанное в российских ПДД (например, в борт автобусу с детьми, хотя роботу известно, что тормозного пути не хватает), вместо которого должен быть маневр отворота, даже через сплошную, в кювет или фонарный столб? Но ведь в этом случае может быть "причинен вред человеку", находящемуся в кабине/ в салоне беспилотника! Фактически мы возвращаемся к ситуации, когда безопасность одного человека можно обеспечить только за счет другого...
Посему FAVP допускает, что до массового внедрения беспилотников потребуется рассмотреть вопрос о разработке особых правил принятия решений в случаях конфликтов между безопасностью, мобильностью и законностью. Их алгоритмы должны вырабатываться публично и прозрачно, с использованием данных и рекомендаций федеральных и государственных регуляторов, мнений и опыта водителей, пассажиров и иных уязвимых участников дорожного движения, разумеется - с учетом последствий принятых решений.
Посему думаю, что даже если только 15-20+ лет мы все-таки действительно подойдем к SAE Level 4, а затем и Level 5 программ управления беспилотниками, иными словами - к полной автономности, то данной темой надо заниматься уже сегодня, что и предлагает MIT с тестами на специальном сайте. К сожалению, в России есть мнение, что сначала, обязательно опередив зарубежных производителей, надо выпустить на дорогу беспилотники, программно заставить их соблюдать не самые совершенные ныне действующие ПДД, а вот потом, когда будут возникать "ситуации", начинать разбираться. Причем по факту и каждому случаю отдельно. Например, когда машина, "приговоренная" только тормозить, ожидаемо задавит внезапно выбежавшего на дорогу ребенка...
А что касается отказа тормозов - так есть же самодиагностика неисправностей, рекуперация для торможения, да и дополнительные системы безопасности нужно разрабатывать, а не решать кого можно угробить
Анекдот в тему:
Грузинская автошкола:
- Гоги, вот едешь ты по узенькой дарогэ, слева от тэбя молодой дэушка, а справа старый женщина, кого давить будэшь?
- Старый
- Дурак ты Гоги, томоз давить нада
В случае с робокаром всё сложнее. Крайним для общества может стать производитель робокара. Вот эти производители и придумывают все эти тесты, чтобы как-то отвести от себя общественный выхлоп. ИМХО.