Этическое месторождение для автономных транспортных средств
По мере развития технологии автономных транспортных средств существует одна область, которая отстает: общественное признание. В этой статье будут рассмотрены некоторые этические дилеммы и текущие судебные процессы, запрещающие потребителям принимать и доверять автономные автомобили.
В эти дни редко упоминается должность «оператор лифта», но в 1940-х годах только в Нью-Йорке было более 23 000 операторов лифта в 2000 зданиях. Когда они объявили забастовку в 1945 году, потребовав более высокую заработную плату, газеты сообщили, что лифты по всему городу были непригодными, а «огромные толпы служащих … боролись за лестницы, которые казались бесконечными, в том числе и Эмпайр-стейт-билдинг».
Будет ли общественное признание отставать от инженерных способностей, когда речь идет об автономных транспортных средствах, «приводящих» их с пола на пол. Возможно, однажды, люди будут думать, что это так же странно, что мы когда-то управляли нашими автомобилями сами
Еще более странным является тот факт, что к 1945 году полностью автоматизированные лифты уже на протяжении десятилетий были доступны, но пассажиры по-прежнему неохотно использовали их, в основном из-за проблем с безопасностью.
Будет ли развитие автономных транспортных средств следовать аналогично медленному пути? Будет ли десятилетие общественного признания отставать от технических возможностей? Ответы на эти вопросы зависят от проблем этики и ответственности, которые кажутся очень сложными - и в конечном итоге - общественным восприятием решений отрасли по этим вопросам.
Проблема с тележкой
Один из популярных способов подчеркнуть эти проблемы заключается в учете «проблемы с тележкой», мысленного эксперимента, в ходе которого субъект вынужден выбирать между двумя неприятными результатами.
Проблема с тележкой. Изображение предоставлено McGeddon (CC SA-4.0)
Представьте себе, что полоса впереди автономного транспортного средства внезапно блокируется падающим валуном. Столкновение было бы фатальным. Автомобиль должен выбирать между запуском встречного движения в другой полосе движения или проездом по дороге в реку. В идеале мы хотели бы, чтобы автомобиль выбрал наименее вредный результат. Возможно, мы предпочли бы, чтобы автомобиль врезался в реку и рискнул жизнью своего пожилого водителя, вместо того, чтобы врезаться в автобус школьных детей (конечно, водитель может не согласиться с нами).
Очевидно, однако, что это требует, чтобы автомобиль имел глубину понимания мира, который намного превосходит любой ИИ текущего поколения. Фактически, это выбор, который также был бы невозможным для человека, чтобы полностью взвесить в короткие доступные моменты. Это само по себе показывает, как влияние суммирования ИИ в генерирующем генераторе в уравнение безопасности, возможно, завышено.
Важно понимать, что эти жесткие этические и ответственные вопросы не новы. Это связано с тем, что мы уже живем в мире, где сложные системы, в которых задействованы люди, машины и природа, взаимодействуют и производят непредсказуемые результаты. Мы уже живем в мире, где у нас обычно нет ресурсов или информации, чтобы принимать оптимальные решения в любое время - мы можем делать все от нас зависящее. Обширные стандарты и кодексы наилучшей практики уже разработаны для руководства разработчиками через этот сложный мир.
FTC против D-Link
В то время как мыслительные эксперименты, такие как The Trolley Problem, должны сыграть определенную роль в предоставлении нам теоретической основы для понимания этических вопросов и вопросов ответственности. Это примеры реального мира, такие как недавний случай, когда FTC подал иск против производителя аппаратного обеспечения IoT, D-Link, за халатность в защите своих клиентов от хакерских атак, которые иллюстрируют, как ответственность в действительности оценивается правовой системой, Вот некоторые ключевые фразы из этого случая: по данным FTC, «конфиденциальные данные» потребителей подвергались риску. FTC заявляет, что компания заявила, что ее продукты «легко защищены», но на самом деле «не предприняли разумных шагов, чтобы« избежать »широко известных и разумно предсказуемых рисков».
Случай FTC и D-Link является единственным примером, но он предлагает, как компании могут уменьшить свою потенциальную ответственность, исследуя потенциальные риски, строя надежные системы, чтобы справиться с этими рисками, и, наконец, проявляя осторожность в своих заявлениях о безопасности продукта.
Разработчики автономных систем транспортных средств могут начать с ознакомления с международными стандартами безопасного программного и аппаратного обеспечения, такими как базовый стандарт IEC 61508, и его производные от автомобильной промышленности, ISO 26262. Эти стандарты содержат рекомендации по разработке критически важных продуктов и систем безопасности на протяжении всего цикла разработки - начиная с первоначальной оценки риска.
Вывод
Мы можем надеяться, что в один прекрасный день тесты докажут, что автономные транспортные средства значительно безопаснее, чем человеческие водители, и спасают жизни, а затем они будут быстро приняты. Однако многие десятилетия, которые потребовалось общественности для принятия автоматических лифтов, указывают на другое. Признается, что лифты стали приняты, потому что технология была проверена и доказана в течение многих лет, и, как показала забастовка операторов лифтов в Нью-Йорке в 1945 году, растущая стоимость рабочей силы делала человеческие операторы неэкономичными.
Отраслевые статьи - это форма контента, которая позволяет отраслевым партнерам делиться полезными новостями, сообщениями и технологиями с читателями All About Circuits таким образом, что редакционный контент не очень подходит. Все отраслевые статьи подчиняются строгим редакционным правилам с целью предоставления читателям полезных новостей, технических знаний или историй. Точки зрения и мнения, выраженные в отраслевых статьях, являются точками партнера, а не обязательно для All About Circuits или его авторов.