В прошлом году Стюарт Руссел, инженер-программист Калифорнийского университета в Беркли, написал открытое письмо с воззванием к запрету «летального автономного оружия». Для тех, кто далёк от военно-промышленного комплекса, это может показаться несколько надуманным и преждевременным опасением, вроде призывов к запрету фазеров из Стар Трека или Звезды Смерти.

Однако реальность говорит об обратном.

 

Человечество всегда стремилось автоматизировать военное дело. К примеру, мины являются своего рода роботами, хотя и простейшими. Ракеты с тепловым наведением умнее их, хотя и не намного. Сегодня существуют уже полностью автономные машины-убийцы: например, южнокорейский Super aEgis II способен распознавать людей и целиться в них. Перед тем как выстрелить из своего 12,7-миллиметрового пулемёта, он требует разрешения живого оператора — но это скорее правила этикета, чем технические требования.

Руссел пишет, что «автономное оружие станет «калашниковым» будущего — дешёвым и доступным». И это полностью изменит правила ведения войны.

«Умное оружие сможет изменить масштаб влияния малых групп людей на мир, — пишет он. — Оно может нанести урон, сравнимый с ядерным оружием, с гораздо меньшими финансовыми затратами и требованиями к инфраструктуре».

Сторонники умного оружия указывают на некоторые преимущества автономных машин-убийц: использование роботов на войне значительно снизит человеческие жертвы. Однако для подписавших письмо Руссела 20 тысяч людей (из которых большинство учёных) недостатки умного оружия значительно перевешивают его достоинства. Позже в этом году Руссел вместе со своими сторонниками собирается добиться изменений в международном праве, аналогичных запрету на использование биологического оружия.

Обсуждение этого вопроса состоится в ООН и на Мировом экономическом форуме.

Ведь если когда-нибудь появится полностью автономный робот-убийца, пути назад уже не будет.