Как говорить о роботах-убийцах, которые принимают собственные решения
Возможно, ни одна военная технология не расстраивает сильнее, чем идея машины, вооруженной пушкой, самостоятельно принимающей решение убивать людей. Это тема всей антиутопической литературы и фильмов, и она оживляет протесты против дронов, несмотря на то, что военными дронами по-прежнему управляют люди. Автономность для оружия - когда орудийная башня или будущая машина будут запрограммированы на самостоятельное нажатие на спусковой крючок - это определенная возможность в будущих войнах. Новый отчет Центра новой американской безопасности, аналитического центра в Вашингтоне, округ Колумбия, хочет спокойно направить нас к пониманию будущего вооруженных мыслящих машин.
Для простоты восприятия в отчете большой вопрос о роботах-убийцах разбит на более мелкие вопросы. Первый касается самой природы автономии, когда речь идет о машинах.
Автономия сложна, но когда речь идет о машинах, наиболее важные аспекты вращаются вокруг того, какой контроль люди все еще имеют над технологией и какие решения машина может принимать самостоятельно. Все, начиная с Пентагона и ниже, весьма заинтересованы в том, чтобы убедиться, что люди участвуют, когда дело доходит до принятия летальных решений, и чиновники определенно не хотят просто передавать роботам какое-либо оружие, тем более сверхсмертоносное.
Технический термин для вовлечения людей - «в петле», но важнее всего то, где люди попадают в эту петлю
Технический термин для вовлечения людей - «в петле», но важнее всего то, где люди попадают в эту петлю. Робот, который сканирует окружающую среду в поисках целей и спрашивает у человека одобрения, прежде чем стрелять по каждой из них, отличается, скажем, от робота на поле боя, который спрашивает, может ли он выбирать и атаковать цели самостоятельно. Это вопросы, над которыми придется задуматься военным мыслителям, разработчикам роботов и людям, разрабатывающим новые законы войны, поэтому хорошо сформулировать вопросы заранее.
Авторы доклада, Пол Шарре и Майкл С. Горовиц, продолжают разбирать «в петле». Ракета, которая идентифицирует цели, но спрашивает, прежде чем выстрелить, - это «человек в петле», в то время как машина, которая выбирает цели и атакует самостоятельно, - «человек вне петли». Однако есть золотая середина для автоматического запуска оборонительного оружия, такого как противоракетная батарея, которая должна стрелять быстрее, чем человек может среагировать, иначе она не сработает. Шарре и Горовиц называют подобное оружие «человеком на петле». В таких случаях оружие может стрелять без одобрения человека, но человек может остановить стрельбу в будущем.
Что важно в этих различиях, так это то, что они, как и сама автономия, являются вопросом степени. Разделяя автономию на категории, это позволяет специалистам по планированию обороны, законодателям и правозащитным группам по-разному относиться к этим типам, особенно к более опасному «человеку вне поля зрения».”
Если военные роботы станут частью войн будущего, хорошо иметь общую терминологию для понимания того, какие роботы что делают. «Введение в автономию в системах вооружения» не дает ответов на все вопросы о том, как мир и военные должны относиться к автономным роботам, но содержит полезный словарь для всех, кто хочет вести такой разговор в будущем.
Читайте полный отчет здесь.