С ростом использования дронов в военных операциях, возможно, только вопрос времени, когда роботы заменят солдат. Один исследователь говорит, что полностью автоматизированная война не за горами, но еще не слишком рано начать изучать этические проблемы, которые поднимают армии роботов.
В своей недавней диссертации об этике автоматизации на войне Линда Йоханссон, исследователь этики роботов в шведском Королевском технологическом институте KTH, предлагает пересмотреть международные законы войны и начать изучение должны ли передовые роботы нести ответственность за свои действия.
Использование беспилотных летательных аппаратов, или беспилотных летательных аппаратов (БПЛА), растет, и в их разработку вкладывается все больше денег, что явно меняет контекст конфликта и поднимает новые вопросы.
«Еще не рано начинать обсуждать подобные вопросы… учитывая скорость разработки», - говорит Йоханссон.
Согласно опросу ООН, мирные жители были убиты в результате 33 атак беспилотников по всему миру. По оценкам, с 2004 года в Пакистане от атак беспилотников погибло от 2200 до 3300 человек, 400 из которых были гражданскими лицами. Согласно последним данным министерства обороны Пакистана, с 2008 года в стране в результате атак беспилотников погибло 67 мирных жителей.
"Солдаты могут убивать других солдат на войне - допустимо ли, чтобы кто-то на другом конце земли атаковал операторов, управляющих дронами?" - спрашивает Йоханссон.
Она также сомневается в этичности назначения операторам дронов задачи отслеживания целевого человека с безопасного расстояния в течение нескольких дней, возможно, даже недели, прежде чем нанести удар.«Это отличается от обычных боевых солдат, которые сталкиваются со своими противниками напрямую», - говорит она. «Синдром посттравматического стресса, поражающий оператора, может быть таким же тяжелым, как и у рядового солдата».
В настоящее время дроны по-прежнему управляются удаленно человеком, но технический прогресс настолько стремителен, что полная автоматизация - это больше, чем просто мрачная фантастика.
Йоханссон набрасывает сценарий, чтобы показать, как достижение этой точки ставит другие этические вопросы:
«Вскоре мы можем столкнуться с ситуацией, когда оператор управляет двумя дронами вместо одного из соображений экономии», - говорит Йоханссон. «Добавьте к этому человеческую склонность полагаться на технологии. Теперь представьте ситуацию, когда необходимо принимать очень быстрые решения. Становится легко выйти из цикла принятия решений и передать управление роботу или компьютеру.
"Человек становится самым слабым звеном."
Можно также возразить, что роботы не имеют права защищать себя, поскольку по правилам войны им не грозит гибель. «Значит ли это, что они потеряли право убивать людей-солдат?» - спрашивает она.
Роботы, особенно дроны, также могут способствовать ведению «тайной войны» с низкой прозрачностью и минимальным участием войск.
Исследование Линды Йоханссон привело к созданию сборника из семи статей. Помимо автономных систем на войне она изучала и другие аспекты роботов. Одна из статей посвящена роботам-помощникам и этическим нормам, связанным с ними. Две ее статьи посвящены так называемому «ландшафту агентов» - или тому, можно ли и когда продвинутых роботов нести ответственность за свои действия.