И при этом, как пишет исследовавший данную проблему П. Сингер, «закон безмолвствует» — пока что никто из законодателей не задался всерьез вопросами о том, а можно ли в принципе выдавать автономным роботам лицензию на убийство? Или, формулируя иначе, что должно происходить в тех случаях, когда робот убивает «не того» человека. Ведь если в цепочке принятия решений участвуют люди, то может быть установлена и юридическая ответственность. Но когда машина все делает сама, ответственность исчезает — а вместе с ней исчезают и общепринятые нормы права.
Как считает Сингер, одним из возможных решений было бы разрешить роботам автономное использование только нелетальных видов оружия, благо арсенал та-
ких вооружений ныне весьма разнообразен — от устройств, выстреливающих липкую и быстро отвердевающую массу для обездвиживания противника (goo-gun), до микроволновых излучателей, вызывающих болевые ощущения.
Подобные предложения многим представляются вполне разумными. Не забудем, однако, что самолеты- роботы уже не первый год уничтожают цели в зонах, заведомо населенных, так что упомянутые предложения потребуют очень существенной корректировки фактически принятой практики. И нынешние лидеры в области хайтек-вооружений, в первую очередь США, пока совершенно не готовы связывать себе руки какими-то ограничениями.
ГЛЯДЯ ИНАЧЕ
Помимо названного, есть и другой взгляд на происходящее. За плечами земной цивилизации — весьма постыдная история. Сколь-
ко раз человечество бездумно выпускало джинна из бутылки — будь то авиабомбы, отравляющие газы или ядерное оружие, — еще до того, как были тщательно проанализированы ужасные последствия применения разрушительных технологий. Сегодня имеется вполне реальный шанс учесть прошлые ошибки, и, затевая разговор о боевых роботах и морали, было бы полезно вспомнить знаменитые Три Закона роботехники Айзека Азимова:
¦ Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
¦ Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
¦ Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Сегодня, как показывают исследования Сингера, специалисты-роботехники почти не вспоминают о «старомодных и наивных» идеях Азимова. А если вдруг и вспоминают, то лишь чтобы указать, что все его рассказы из цикла «Я, робот» по сути своей демонстрируют внутренние противоречия и ограничения основополагающих законов.
При этом, однако, никто не желает видеть одну очень существенную вещь — для Азимова изначально была неприемлемой идея об автономных вооруженных роботах, запрограммированных на умышленное нанесение вреда человеку, не говоря уже об убийствах. В азимовском мире будущего такого не могло быть в принципе. И если в нашем сегодняшнем мире все иначе, это означает, что с пониманием драгоценности человеческой жизни, а значит, и с основами морали у современного общества большие трудности. Общество, не считающее убийство аморальным, тяжко больно. И как его вылечить, пока неясно. ¦
ВОЙНА КАК ВИДЕОИГРА
Военные с умом воспользовались продукцией индустрии видеоигр — в частности, достижениями в области интерфейсов и контроллеров-манипуляторов. Создатели консолей ХЬох и PlayStation затратили многие миллионы долларов на разработку систем управления, которые идеально подходят для человеческих рук. Неудивительно, что военные тоже стали использовать эти устройства, заодно бесплатно получив в свои кадры целое поколение молодых людей, которые уже натренированы в использовании таких систем.
Но здесь имеется еще один существенный аспект — специфическая ментальность, формирующаяся у людей при использовании подобных систем. Один из американских военных операторов, управляющих дро- нами Predator, описал, каковы ощущения при уничтожении противника, находящегося за многие тысячи километров. Он сказал, что «это словно видеоигра». Если задуматься, это очень странное, но и очень показательное сравнение для опыта реального убийства людей, а также яркий при-
мер того, как технологии меняют восприятие чрезвычайно важных вещей в сознании целого поколения.
Обозначилась фундаментальная разница в сравнении с пилотом бомбардировщика Второй мировой войны или даже с пилотом бомбардировщика сегодняшнего. Компьютеры и дальняя связь не только полностью лишают человека ощущения аморальности его действий, но и вообще боли, сопутствующей войне, — как физической, так и психологической. Ведь «боевой» опыт пилота нынешних дронов выглядит примерно так. Утром он прыгает в свою Тойоту, едет на службу, садится за компьютер, пачками убивает врагов где-то там за океаном, опять прыгает в авто и едет домой. Через полчаса после «хождения на войну» он уже дома и за кухонным столом обсуждает с ребенком школьное домашнее задание. То есть понятие о том, что означает «идти на войну», изменилось в корне, а ценность жизни людей стала примерно такой же, как у монстров в видеоигре.
По МАТЕРИАЛАМ ИНТЕРВЬЮ П.СиНГЕРА
СВОЯ ИГРА
оружие XXI века
Преподобный Михаил Ваннах LEBENSRAUM ЦИФРОВОГО ВЕКА
О «русском фашизме», начиная с времен перестройки и гласности, слышал весь мир (конечно, фашизм вызревает в либеральном гражданском обществе, к которому Россия иммунна, но у нас иные тараканы). А вот о том, что доктрина жизненного пространства, основа основ нацизма, открыто декларируется на госуровне одной совсем не мелкой державой, почему-то упорно умалчивает и либеральная, и казенная пресса.
В январе китайское правительство обнародовало «Белую книгу об обороне КНР в 2008 году». Это уже шестой подобный документ, увидевший свет с 1998 года. И его тридцать тысяч иероглифов заставляют о многом задуматься даже тех, кто иероглифы читать не умеет. Когда-то Карл фон Клаузевиц (подполковником русской службы сражавшийся с Наполеоном под Смоленском и Бородиным) определил войну как продолжение политики иными, насильственными, средствами. Сегодня, похоже, мы, в соответствии с новомодной наукой синергией, встречаемся с тем, что высокотехнологические возможности войны начинают уже определять политику. В Белой книге отмечается, что
