scienceline.ru

Среда, Сен 19th

Last updateПн, 30 Июль 2018 8am

Повседневные этические проблемы самоуправляемых автомобилей.

701a

Много дискуссий и этических размышлений о самоуправляемых автомобилях были сосредоточены на трагических дилеммах, таких как гипотезы, в которых автомобиль должен решить, следует ли идти на столкновение с группой школьников или вырулить в преграду, убив своих собственных пассажиров. Но такие ситуации являются крайними случаями.

Как показывает последняя авария, в которой самоходный автомобиль убил пешехода в Темпе, штат Аризона - мирские, повседневные ситуации на каждом пешеходном переходе, повороте и перекрестке представляют гораздо более сложные и более широкие этические затруднения.

Этика крайностей

Как философ, работающий с инженерами в Стэнфордском центре автомобильных исследований, я был первоначально удивлен тем, что мы проводили наши лабораторные встречи, обсуждая, по моему мнению, элементарные вопросы, например: как самоуправляемый автомобиль должен относиться к пешеходному переходу?

Я предполагал, что мы подумаем о том, как автомобиль должен выбирать между жизнью своих пассажиров и жизнью пешеходов. Я знал, как думать в таких ситуациях, потому что эти сценарии аварии напоминают известную философскую головоломку под названием «проблема тележки». Представьте себе, что тележка несется по рельсам и обязательно врежется в группу из пяти человек или одного человека - вы бы убили одного, чтобы спасти пять?

Однако многие философы в настоящее время сомневаются в том, что исследование таких вопросов является плодотворным направлением исследований. Например, Барбара Фрид, коллега из Стэнфорда, утверждала, что трагические дилеммы заставляют людей полагать, что этические затруднения в основном возникают в экстремальных и тяжелых условиях.

На самом деле этические затруднения распространены повсеместно. Повседневные, мирские ситуации на удивление часто вызывают трудности. Например: должен ли ваш город финансировать программу профилактики диабета или выделять средства на большее количество социальных работников? Следует ли вашему местному Департаменту здравоохранения нанять инспектора по стандартам гигиены в ресторанах или продолжить программу предоставления бесплатных игл и инъекционных принадлежностей?

На эти вопросы чрезвычайно трудно ответить из-за неопределенностей в отношении последствий, таких как, кто будет затронут и в какой степени. Решения, предложенные философами для экстремальных и отчаянных ситуаций, здесь мало помогают.

Проблема аналогична с самоуправляемыми автомобилями. Мышление в экстремальных ситуациях и сценариях аварий не может ответить на вопросы, возникающие в обыденных ситуациях.

Задача на пешеходных переходах

Можно было бы спросить, что может быть такого сложного в обычных дорожных ситуациях, таких как приближение к пешеходному переходу, пересечение перекрестка или поворот налево. Даже если видимость на пешеходном переходе ограничена, и иногда трудно сказать, действительно ли ближайший пешеход хочет пересечь улицу, водители справляются с такими ситуациями каждый день.

Но для самоходных автомобилей такие обыденные ситуации представляют собой проблему в двух случаях.

Во-первых, существует тот факт, что то, что легко для человека, часто трудно для машин. Будь то распознавание лиц или езда на велосипедах, мы хорошо разбираемся в восприятии и механических задачах, потому что эволюция создала эти навыки для нас. Тем не менее, этим навыкам трудно обучить или спроектировать. Это называется «Парадокс Моравека».

Во-вторых, в будущем, когда все автомобили будут самоуправляемыми, небольшие изменения в поведении вождения сыграют большую роль в совокупности. Решения, принятые инженерами сегодня, будут определять не то, как один автомобиль ездит, а как все автомобили движутся. Алгоритмы становятся политикой.

Инженеры обучают компьютеры распознавать лица и объекты с помощью методов машинного обучения. Они также могут использовать машинное обучение, чтобы помочь самоуправляемым автомобилям имитировать человеческое вождение. Но это не решает проблему того, что инженеры приходят к обобщенным решениям в вопросах безопасности и мобильности.

Кроме того, самоуправляемые автомобили не должны ездить, как люди. Люди на самом деле не очень хорошие водители. И они ездят зачастую этически тревожными способами, решая, следует ли уступать на пешеходных переходах, основываясь на возрасте, расе и доходах пешеходов. Например, исследователи в Портленде обнаружили, что темнокожие пешеходы пропускают в два раза больше автомобилей, и им приходится ждать на треть дольше, чем остальным пешеходам, прежде чем они смогут пересечь дорогу.

Самоуправляемые автомобили должны ездить более безопасно, и более справедливо, чем люди.

Повседневная этика

Этические проблемы углубляются, когда вы занимаетесь конфликтами интересов, которые возникают в повседневных ситуациях, таких как пешеходные переходы, повороты и перекрестки.

Например, при проектировании самоуправляемых автомобилей необходимо сбалансировать безопасность других-пешеходов или велосипедистов - с интересами пассажиров автомобилей. Если автомобиль превышает скоростной режим, он не может предотвратить столкновение с ребенком, который может внезапно выбежать на дорогу. Так как же инженерам найти баланс между безопасностью и мобильностью? И какая скорость достаточно безопасна?

Каким должно быть будущее трафика?

Повседневные ситуации создают новые инженерные и этические проблемы, но они также заставляют людей ставить под сомнение основные правила дорожного движения.

Для себя я начал задаваться вопросом, нужны ли нам вообще места под названием «пешеходные переходы»? В конце концов, самоходные автомобили потенциально могут безопасно пересечь дорогу в любом месте.

И не только пешеходные переходы становятся ненужными. Светофоры на перекрестках тоже могут остаться в прошлом. Людям нужны светофоры, чтобы каждый мог пересечь перекресток без аварии и хаоса. Но самоуправляемые автомобили могли бы координировать между собой.

Больший вопрос здесь заключается в следующем: учитывая, что самоуправляемые автомобили лучше, чем живые водители, почему автомобили должны подчиняться правилам, которые были разработаны для человеческой погрешности и человеческих ошибок? И чтобы расширить этот мысленный эксперимент, рассмотрим также более общий вопрос: если мы, как общество, могли бы с нуля разработать нашу систему дорожного движения, как бы мы хотели, чтобы она выглядела?

Поскольку эти трудные вопросы касаются каждого в городе или в обществе, они требуют, чтобы город или общество согласовали ответы. Это означает балансирование конкурирующих интересов таким образом, что это работало для всех - независимо от того, думают ли люди только о пешеходных переходах или о дорожной системе в целом.

С самоуправляемыми автомобилями общество может перепроектировать свою систему дорожного движения. От пешеходного перехода до общего дизайна трафика - это жизненные ситуации, которые вызывают действительно сложные вопросы. Экстремальные ситуации - это отвлечение внимания. Проблема с тележкой не отвечает на все эти трудные вопросы.