4833
3
Автомобиль с молодой семьей едет по шоссе, вдруг на дорогу выбегает ребенок. Водитель, пытаясь уйти от столкновения, сворачивает с дороги, машина улетает в кювет и несколько раз переворачивается. Из 4-х человек двое погибли, еще двое в тяжелом состоянии попадают в больницу.
Ужасная история. Но общество эту историю будет рассматривать как несчастный случай. Водитель сделал все, чтобы спасти жизнь выбежавшего ребенка. Это естественная реакция. Наверное, каждый из нас поступил бы так же.
А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты.
А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты.
Автомобиль на автопилоте собьет ребенка, даже не попытавшись его объехать.
Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!
Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.
Есть даже старый добрый тест «Проблема вагонетки».
«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»
Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.
Американский институт MIT запустил тест о моральном выборе: как должен поступить компьютер, оказавшись в такой ситуации. Можете пройти тест и посмотреть, как отвечали другие пользователи.
Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?
Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!
Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.
Есть даже старый добрый тест «Проблема вагонетки».
«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»
Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.
Американский институт MIT запустил тест о моральном выборе: как должен поступить компьютер, оказавшись в такой ситуации. Можете пройти тест и посмотреть, как отвечали другие пользователи.
Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?
Что думаете?
Источник:
Ссылки по теме:
- Очень необычная авария
- Колесо прилетело со встречки
- Украинский футболист разбил свой Ferrari в Турции
- Дэвид Бекхэм с сыном попал в ДТП
- В Киеве Jaguar на бешеной скорости влетел в забор
Если кто-то выскочит на рельсы перед поездом, то машинист не будет виноват -поезд остановить нереально.
хватит перегибать.
Если я трезвый, скорость не превышал, и сразу начал тормозить при виде опасности, то самое большее что мне будет грозить года 2-3 поселения. А то и условный срок. Я даже жизнью себя одного не буду рисковать ради этого. А уж тем более с пассажирами.
Как-то так.
А если начать гадать, а если бы да кабы, рекомендую задуматься над роботом который управляет ядерными ракетами. это будет поглобальнее тесловского автопилота
Сор за много букв, но я попытался передать смысл, что автор был в не себя когда писал этот бред. Кстати а ребенка водитель не сбил только потому, что первый рефлекс у любого человека уйти от препятствия. Думаю дай ему судьба второй шанс - он бы сохранил свою молодую семью...
— Ээээ, Гоги, едэшь ты по горный дорога, слэва пропаст, справа стэна, вперэды вдруг дэвушка — вах, пэрсик! — и бабка старый, сто лэт, слэпой уже. Каво давыть будэш?
— Бабка канэшна!!!
— Нэт, Гоги. Пэдал тормоз давыть нада!
Автор считает автоматику мыслящей и принимающей решения. Жаль его огорчать, но решений и подсчёта пассажиров не будет: лишь сработают датчики и включится тормозная система.
гибли, гибнут и завтра погибнут, люди. С автопилотом, без автопилота... На мой взгляд, пьяный отморозок, возомнивший себя "королем Дороги", опасней глючного автопилота...Ибо второй можно починить, или заменить. А отморозок это пожизненно...