Утопично предположение, будто Три Закона Роботехники Азимова можно было бы заложить в фундамент интеллектронного программирования. Этой проблемой я занимался в «Summa Technologiae», рассматривая возможную эволюцию отношений между цифровыми машинами и людьми, поэтому не хотелось бы повторять сказанное. Но и робота, снабженного каким-то эрзацем личности, невозможно сделать совершенно безопасным для окружения, учитывая такую рефлексию, которая, правда, не может считаться доказательством, но на след его наводит. Примем оптимистическое (недоказуемое строго) предположение, будто технически осуществимо построение системы, являющейся одновременно самопрограммирующимся роботом, в то же время не могущим предумышленно причинить зло человеку. Моделью такого робота будет ребенок из новеллы Я.Ю. Щепаньского «Бабочка», который, желая помочь бабочке, неумышленно ее убивает. В принципе же моральную оценку такого поступка можно дать лишь постольку, поскольку удается проследить уходящие максимально далеко причинные цепочки, запущенные данным действием. Тот, кто смотрит дальше и замечает такие возможные последствия своих действий, которых кто-либо другой на его месте не в состоянии предвидеть, порой действует не так, как этот другой. Но чем дальше в будущее уходит предвидение последствий действия, тем значительнее в предикции будет участие вероятностных факторов. Добро и зло скорее в виде исключения образуют полярную дихотомию: включение в оценку пробабилистического элемента делает принятие решения все более трудным. Поэтому гипотетический робот, имеющий аксиологически очень сильную защиту, в ходе реальных событий, презентующих присущую им степень сложности, чаще всего бы замирал, не зная, как поступить, тем самым уподобляясь тем восточным мудрецам, которые бездействие чтили превыше действия, кое в запутанных ситуациях просто не может быть этически не рискованным. Но робот, охваченный параличом в ситуациях, требующих активности, не был бы наиболее совершенным из всех технических устройств, и поэтому в конце концов сам конструктор вынужден был бы оставить некоторый люфт его экологическим предохранителям.
Впрочем, это только одна препона среди обильного их множества, поскольку теория решений показала нам сравнительно недавно, скажем, на примерах типа так называемого парадокса Эрроу, что существуют несовыполнимые ценности, хотя зачастую подобное положение интуитивно распознать не удается. Тот, кто принимает решения в запутанных ситуациях — а таковые относятся к общественно типичным, — никогда не действует ни исходя из полной информации, ни из предположения, что, решаясь на это, никому не причинит зла (например, когда он выполняет обязанности законодателя и т. д.). Того же, что логически оказывается невозможным, ни цифровая машина, ни какой-либо робот, так же, как и человек, реализовать не сумеет. Сверх того — и это уже третий пункт доказательства, — разумное устройство — это не более чем самопрограммирующийся комплекс, то есть прибор, способный преобразовывать — даже фундаментально — действовавшие до того законы собственного поведения под влиянием опыта (или обучения). А поскольку заранее невозможно точно предвидеть ни чему, ни каким образом такое устройство будет научаться, машина она или человек, то и невозможно конструктивно гарантировать появление этически совершенных предохранителей активности. Иначе говоря, «свободная воля» есть признак любой системы, снабженной свойствами, которые мы отождествляем с интеллектом. Вероятно, можно было бы вмонтировать в систему типа робота определенный аксиологический минимум, но он подчинялся бы ему лишь в такой степени, в какой человек подчиняется особо сильным инстинктам (например, инстинкту самосохранения). Однако же известно, что даже инстинкт самосохранения можно преодолеть. Стало быть, программирование аксиологии мозгоподобной системы может быть только пробабилистичным, а это означает всего лишь, что такое устройство может выбирать между добром и злом.
В упомянутой статье А. Азимов рассказывает, как когда-то он опубликовал два криминально- фантастических романа. Один из них, «Стальные пещеры» (в польском варианте — «Позитронный детектив»), был издан у нас. Личность помощника этого детектива, робота-андроида Дэниела Оливо, вызвала такой интерес у женщин, что они засыпали автора письмами, из которых Азимов, как он говорит, узнал, что «когда механический человек достаточно напоминает мужчину, притом „лучшего“, то он становится (для женщин) невероятно привлекательным».
Свое утверждение он подтверждает дальнейшим: сколько бы историй об андроидах он ни писал, приходящая после публикации почта почти всегда шла от женщин; это тем интереснее, что среди читателей научной фантастики мужчины превышают женщин в пропорции примерно 3:1. И наконец, с аналогичной реакцией в США сталкивались телевизионные сериалы, в которых действовал мистер Спок, правда, не робот, но «extraterrestial», то есть представитель «чужих», личность сильная, вполне уравновешенная, чисто интеллектуальная и лишенная эмоций, так вот, мистер Спок также был встречен с энтузиазмом женской половиной телезрителей.
В андроидно-роботной тематике мы вновь сталкиваемся с явлением, типичным для научной фантастики: я назвал бы его доминированием «экстенсивного хозяйства над интенсивным». Когда действующими героями произведения являются лишь люди, то в конце концов — если только писатель не слишком мешает — у них можно отыскать различные характеры. Если же они — роботы, то тут уж мы обречены исключительно на информацию, предлагаемую текстом. Итак, количество историй о роботах и андроидах огромно; однако ж своеобразие их психической жизни остается тайной за семью печатями. По каким признакам мы узнаем андроида? По тому, что если ему отрезать палец, то кровь не потечет, а вместо кости и мяса мы увидим нейлоновые сосуды и тефлоновые жилы. Суставы и поршеньки. Психически андроид ничем не отличается от человека до такой степени, что может даже и сам не знать, что он не человек (к примеру, повествователь «Туннеля под миром» Ф. Пола понятия не имеет, что он — созданьице размером в несколько дюймов, живущее в городе из домиков с кукольными пропорциями, построенном на лабораторном столе для изучения эффективности рекламных кампаний). Роботы отличаются от андроидов тем, что они сильнее стереотипированы; порой они ведут себя наподобие кататоников: приказы выполняют буквально, «при том никогда ни о чем не думают», так что в итоге любопытнейшими творениями фантастики оказываются «трансплантаты», то есть человеческие мозги, подключенные к каким-либо машинам, например к рулям ракеты, либо, как в упомянутой новелле Д. Найта «Спросите меня о чем-нибудь», замкнутые в стальной панцирь.
В рассказе «Я мечтатель» У. Миллера детский мозг оказался как бы намертво подключен к рулям космической ракеты. У него никогда не было человеческого тела. Этот мозг по ходу интриги начинает понимать беспардонность своего «воспитателя» и убивает его, чтобы вместе с кораблем-«телом» отправиться в пространство.
В «Потерянной памяти» Питера Филипса перед нами общество роботов, утративших память о человеке — их создателе. Предание роботов гласит, что Создатель снизошел с неба в виде огромного металлического куба, свершил акт креации, после чего сам себя уничтожил. Ракета с единственным человеком-пилотом опускается на эту планету; роботы принимают ее за «тело» того, кто обращается к ним изнутри; а поскольку крышку люка отворить не удается, они прожигают ее и тем самым неумышленно убивают человека, который тщетно пытался разбудить в них воспоминания — уже не существующие — о людях. О земном происхождении роботов свидетельствует знание ими английского. Новелла написана в тональности слегка гротескной и одновременно патетично (последняя роль достается погибшему человеку, пилоту ракеты). Роботы оказались перед неразрешимой загадкой (обугленное тело человека, появляющееся после рассечения ракеты, они сочли разновидностью изоляции), поскольку не нашли «мозга» ракеты, принимаемой ими за «личность». Крики агонии записаны на пленке. Робот-повествователь так заканчивает рассказ:
Рассказ этот демонстрирует достаточно редкую ситуацию в научной фантастике, когда читатель понимает то, чего не понимают действующие лица (в данном случае роботы). Кроме того, он обладает свойством, характерным для многих хороших произведений. Описание будущего, или же, говоря более обобщенно, некой «инности», сделанное совершенно серьезно, всегда влечет за собой риск оказаться — непреднамеренно — смешным.
Комический эффект возникает в том случае, когда наблюдаемое явление кажется искажением некой
