Готов или нет
Сэм Уорд
В августе Стюарт Рассел, ученый-компьютерщик из Калифорнийского университета в Беркли, написал открытое письмо, призывающее к запрету «смертоносного автономного оружия». Для тех, кто не связан с военно-промышленным комплексом, это может показаться немного преждевременным, вроде призыва к запрету фазеров из «Звездного пути» или «Звезды Смерти». Реальность говорит об обратном.
У людей есть почтенная традиция автоматизации ведения войны. Фугасы - это своего рода робот, хотя и очень тупой. Ракеты с тепловым наведением умнее, хотя и ненамного. «Существует континуум, - говорит Рассел, - и мы продвинулись дальше, чем думаем. «Если бы вы хотели произвести что-то очень эффективное, достаточно надежное, и если бы это стало военным приоритетом, - за 18 месяцев вы могли бы начать массовое производство какого-нибудь интеллектуального оружия». Действительно, автономные машины для убийств уже существуют: южнокорейская оружейная платформа Super aEgis II может распознавать людей и нацеливаться на них. (Он запросит разрешение у живого оператора, прежде чем выстрелить из своего пистолета 50-го калибра, но это скорее вежливость, чем требование.)
Рассел пишет, что «автономное оружие станет автоматом Калашникова завтрашнего дня» - дешево и в изобилии. И это меняет правила войны. «Оружие с искусственным интеллектом может изменить масштабы воздействия небольших групп людей на остальной мир», - говорит он.«Они могут нанести ущерб ядерным оружием с меньшими деньгами и инфраструктурой».
Сторонники ИИ-оружия указывают на некоторые его преимущества: роботы, отправляющиеся на войну, означают меньше человеческих жертв. Но для 20 000 человек (большинство из которых ученые), подписавших письмо, затраты намного перевешивают выгоды. Позже в этом году Рассел и другие будут настаивать на законодательных мерах и изменениях в международном праве, подобных тем, которые запрещают биологическое оружие. Встречи назначены в ООН и на Всемирном экономическом форуме. Как только убийственный ИИ появится, пути назад уже не будет.