Этика и создание самоуправляемых автомобилей: в поиске золотой середины

Question

Автономно управляемые автомобили прошли сотни тысяч километров, отработали ряд серьезных задач, но это еще не те самоуправляемые автомобили, которые готовы решать задачи обычных человеческих водителей, с которыми те сталкиваются ежедневно и бровью не ведут. По мере того как автономные автомобили постепенно получают разрешение на улицах, инженеры, которые их конструируют, сталкиваются с необходимостью включать этику в алгоритмы принятия решений. Для этого им приходится консультироваться с философами.

Уилл Найт так описал в MIT Technology Review систему, организованную Крисом Гердесом из Стэнфордского университета и Патриком Лином:

 «Они реализуют различные этические параметры в программном обеспечении, которое управляет автоматизированными транспортными средствами, а затем тестируют код в моделях и даже реальном транспорте. Такие установки могут, к примеру, собщить автомобилю поставить в приоритет избегание людей выше избегания припаркованных автомобилей или не обращать внимание на белок».

Изучение различных точек принятия решений и того, как самоуправляемые автомобили могут на них реагировать, нацелено на повышение сложности текущих систем, к примеру, в автомобилях Google. Инженеры пытаются создать алгоритмы, которые позволят автомобилю избегать плохого исхода — или хотя бы выбирать лучший из худших. К примеру, Гердес представляет такой сценарий, в котором самоуправляемому автомобилю нужно выяснить, что делать, когда ребенок бежит навстречу автомобилю, и чтобы его не ударить, придется столкнуться с фургоном на встречной полосе:

 «С точки зрения человека, одно из этих препятствий имет боле высокую ценность, чем другое, — говорит Гердес. — Что нужно делать автомобилю? ».

Гердес отмечает, что с точки зрения этики может быть допустимо подвергнуть опасности пассажиров самоуправляемого автомобиля. «Если бы можно было избежать столкновения с ребенком, если бы это спасло ему жизнь, могли бы мы травмировать пассажиров транспортного средства? Это очень сложное решение, которое ляжет в основу алгоритмов, с которыми автомобили будут работать каждый день».

Answer 1

Ваш вопрос очень важен для будущего. Но в нём есть "принципиальный камень" между теоретиками и практиками. ЧЕЛОВЕК "привязан" к РЕАЛЬНОСТИ к времени событий и ОГРОМНОМУ числу датчиков (рецепторов) . Машина - ТОЛЬКО к сигналам от нескольких датчиков. Чтобы разрешить эту проблему, надо создать ЧЕЛОВЕКА. Мы же не Боги! Тот, кто сидит за штурвалом, ручками управления, за баранкой никогда не доверяет МАШИНЕ и всегда готов её отключить и перейти на ручное управление. Если теоретики отстранят ЧЕЛОВЕКА от возможности ручного управления, они погубят человечество.
 Самый простой пример. Несколько лет назад японцы решили заменить машинистов скоростных поездов "машиной". Потратили огромные средства. Но в итоге ВЫНУЖДЕНЫ были рядом с "машиной" посадить человека. Гораздо эффективне, намного дешевле для БЕЗОПАСНОСТИ надо было посадить ДВА машиниста. Машина никогда не заменит человека, только в узких проблемных решений.

Answer 2

Не интересно же, когда никак машиной не управляешь.

Заменить работу дальнобойщиков - может быть.

А так - автолюбитель потому и любитель, что человеку нравится процесс езды и управления. а тут скучняк предлагают.