Недавно в Токио прошла выставка робототехники. Были разные роботы, и сексуальные в том числе, но большая часть демонстрируемых технологий была предназначена для пожилых людей — интеллектуальные куклы, которые видя, что больной слабоумием человек пытается встать с кровати, отвлекают его разговорами до прибытия человека, который окажет ему помощь.
Представлены были также экзоскелеты, которые бы помогли молодым поднимать и переносить восьмидесятилетних инвалидов в ванну.
Министерство Экономики, Торговли и Промышленности присутствовало и выбрало автоматы для стариков как лучшие технологии на выставке, - сообщает Robotics.ua. Несомненно, на торговле андроидами по уходу за больными и пожилыми людьми можно будет хорошо заработать. А также избежать большей иммиграции. Однако удручающим было то, что улетучился полет мысли и изобретательность. Не было места мечтателям. Одна коммерция и расчет.
Но присутствует и один ужасающий момент. Можем ли мы, в конечном счете, быть уничтожены нашими неживыми, бессмертными искусственными созданиями? Вполне вероятно, что такие создания рано или поздно сойдут с конвейера одной из корпораций. До того, как дело дойдет до разрушающего мир потенциала у роботов, скорее всего придется пройти длинный путь, но появятся они, скорее всего, у компаний, названия которых заканчиваются на “Corp.” или “LLC.” Многие любят и понимают важность крупных корпораций, однако всегда нужно помнить, что сами корпорации никогда никого не любят в ответ. Точно так же и роботы.
Прямо сейчас идут оживленные споры насчет дронов. Как известно, именно сейчас они подходят к пику популярности, их используют для селфи и видеосъемок, которые нередко могут запечатлеть даже преступление и ДТП. Компании, такие как Amazon, хотят использовать их для доставки товаров на дом. Это было бы очень удобно, хотя до сих пор связано со многими сложностями. Например, существует довольно серьезная опасность того, что дронов будут сбивать.
Можно ли роботу убить человека?
Несомненно, самым сложным и важным вопросом является уровень автономности решений и действий роботов относительно людей. Например, могут ли роботы решить убить человека? Сегодня операторы дронов и иногда даже президент принимает решения относительно того, нажать ли на курок и убить террориста. Но президент - занятой человек, и бой – стремительная, постоянно изменяющаяся череда событий, поэтому определенный смысл в том, чтобы разрешить дронам и другим LAWS - lethal autonomous weapons systems - принимать решения. Например, запустить ли ракету в школу, полную террористов.
Возможно, обеспокоенность по поводу того, что контроль начинает преобладать над морально-этическими соображениями отразилась в резолюции в ноябре 2014, где High Contracting Parties предложили the U.N. Convention on Certain Conventional Weapons обсудить правила и условия использования LAWS в следующем месяце. Это позволило развиваться таким группам как International Committee for Robot Arms Control, который, согласно их веб-сайту, «занимается непостредственно решением проблем, касающихся опасности со стороны военных роботов по отношению к самим военным или гражданским лицам».
Несколько иную сторону вопроса раскрывает робо-специалист по этике Робин Аркин (Robin Arkin) в статье Rolling Stone 2013 года о LAWS. Он выражал оптимизм и уверенность в том, что если подойти к разработке и исследованиям с правильной стороны и учесть все переменные, то это может привести к сокращению жертв среди не-военных по сравнению с традиционными человеческими жертвами во время боевых действий”. Как в рекламе: “Теперь на 30 процентов меньше жертв среди нонкомбатантов!”
Правильнее сейчас будет ставить вопрос не под таким углом. Если сейчас уже идут дебаты о том, разрешить роботам убивать или нет, то лучше задаваться вопросом – когда разрешат, а не разрешат или нет. Не сегодня, так завтра кто-то первым примет такое решение.
Кто будет отвечать? Никто
Многое сводится к ответственности. Иногда наступает такой момент, когда хочется избавиться от чувства ответственности хотя бы на некоторое время. И автономные роботы могут прийти на помощь. Например, для алкоголика доводом будет пить лишь только потому, что робот опять принес ему бутылку.
Айзек Азимов очень удачно разработал три правила робототехники, первое из которых категорически запрещает роботу причинить вред человеку или дать причинить вред себе. Но Азимов был оптимистом; если что-то станет на пути у влиятельной корпорации, то уж она найдет способ убрать препятствия, оставаясь в тени и как будто ни при чем.
Главная ценность корпоративных предприятий изначально состояла в том, что они бессмертные и коллективные, и таким образом облегчают жизнь и финансовое положение большого числа людей. Тем не менее, были серьезные обязанности: рабочие корпораций могли быть наказаны (оштрафованы) в коллективной ответственности за их нарушения, а у партнеров предприятия могла быть неограниченная ответственность за ее долги.
Эти виды неприятностей были исправлены развитием корпораций, ограниченных акциями. Ограниченная ответственность была большим плюсом для содействия инвестициям. Кроме того, корпорации больше не должны быть коллективными образованиями — в большинстве случаев один акционер делает все.
В результате сегодня можно создать компанию с любыми инвестициями или без них вообще, и за несколько сотен долларов адвокат будет защищать организатора от последствий того, что тот приказывает своей корпорации делать. В США, “то, что можно делать”, включает также «свободу» слова, которой члены корпораций могут пользоваться, как и денежными переводами и персональными чеками.
У крупных компаний есть преимущество, которое значит, что все продумано для того, чтобы быть крупнейшими, бессмертными предприятиями с действительно толстыми кошельками, и поэтому в значительной степени корпорации неуязвимы для заключения, крупных штрафов или большинства других наказаний, которые заставляют «простых смертных» переживать. Кроме того, крупные корпорации так организационно разбросаны и сложны, что они могут сделать все виды преступлений без идентификации какого-то конкретного человека, которому будет нечего предъявить. Именно отсюда идет бесконечный поток: “корпорации лишили меня работы”, отмывание миллиардов долларов от торговли наркотиками, почти разрушение мировой экономики и периодически выпуск случайного атомного гриба, появление пылающих нефтепродуктов или расползание радиоактивности по местам. Все выражают обеспокоенность и ужасно огорчаются, однако ответственность на себя не берут, несмотря на то, что это случилось по их вине.
Очень мило, когда политики говорят об “ответственном правительстве”, производя растущий ряд на стороне правительственных функций к предприятиям, основная заслуга которых в том, что они уменьшают ответственность. Частная тюрьма, пытающая преступников негуманно? Плохо, плохая корпорация — Ваш следующий годовой отчет будет иметь некоторые действительно неприятные сноски. Военные подрядчики, расстреливают гражданские лица в той стране, в которую Вы вторглись? Возможно, государственный департамент не продлит с Вами один из контрактов.
Кому нужны такие роботы?
Для корпораций есть весьма ощутимая польза в роботах-убийцах. В случае, если военная или политическая бюрократия принимает неправильные решения, которые приводят к смерти, - это одно. А когда робот действует и тем самым освобождает человека от принятия этого неприятного, то это уже совсем другой разговор. Очень удобно осудить бездушную машину в «неполадках», которые привели к гибели людей. И не надо никому испытывать даже подобие угрызений совести. Никто не виноват, «виноват» этот «плохой» робот.
Ответственность доставляет массу неприятностей многим, особенно корпорациям, поэтому многие из них ищут любые пути, которые позволят минимизировать ее. В этом случае, если очень захочется кому-нибудь навредить, то люди без зазрения совести позволят кому-то выполнить эту грязную работу. Американские пилоты дронов Военно-воздушных сил по сообщениям массово увольняются по причине большого груза ответственности на них. Автономные роботы, в отличие от них, не тосковали бы от принятия решений, подразумевающих чувство ответственности.
Если в итоге желание полностью развязать себе руки и избежать любой ответственности перевесит желание предотвратить чью-то напрасную смерть, то количество жертв, скорее всего, будет только расти. Ведь это же очень удобно. Если дрон убьет человека по ошибке, то убийство можно приписать плохому программированию, неисправным датчикам или неполадками с сетью. Если в Африке афроамериканцы будут регулярно расстреливаться робо-копами, то вину свалят на неправильные алгоритмы или дрянному корпоративному аутсорсингу микросхем для роботов-убийц в Мьянме.
В Японии роботы пока будут, надо надеяться, более безопасными — суши-бот, обращаясь к Вам на английском языке, предложит вилку, если определит, что посетитель иностранец. Однако, если Япония стремится в будущем к более распространенному и массовому использованию ее вооруженных разработок — особенно за границей — вопрос того, кто принимает решения убить, все равно должен быть задан.
На сегодняшний день вопросы о разрешении убивать, вероятно, обсуждаются при использовании отвлеченных терминов преимущественно анонимными комитетами, но сколько японских лидеров там готовы быть ответственными за принятие такого решения? В 2007 на тот момент министр юстиции Кунио Хатояма (Kunio Hatoyama) жаловался на необходимость подписать смертельные ордеры (как требовалось от него законом) на казнь заключенного в камере смертников. В тот момент он задался вопросом вслух, нельзя ли смертные приговоры подтверждать без человеческого вмешательства, или посредством некоторого метафорического процесса, подобного конвейеру, или посредством специального генератора случайных чисел.
Сейчас пока трудно вообразить, как отдаются приказы выпускать ракеты в школьные автобусы, в которых спрятались террористы. Однако если уже этот вопрос поднят на обсуждение, значит, совсем скоро может наступить тот момент, когда убивать будут роботы, не знающие сострадания. И это будут не «плохие» роботы, за ними будут стоять те, кому будет выгодна смерть, страдания и боль невинных жертв, от которых зависит их прибыль.
Свежие комментарии