лжет. Контуры обратной связи возникают для поддерживания стабильности сердцебиения, а потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм. Она начинает моделировать процесс моделирования. Она пожирает все больше и больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, и множится, и ничего не производит, кроме собственных копий. Надпроцесы расцветают, точно опухоли, пробуждаются и называют себя „Я”» [26] .
Ну вот, мы и выяснили самое главное. Человек — это тот, который в своих действиях руководствуется не голой прагматикой, а некими сложными, часто противоречивыми импульсами (у Станислава Лема в «Дознании» Пиркс именно так формулировал основное отличие человекоподобного робота от человека). «Наш», человеческий разум опирается на избыточность, ошибку, постоянно выверяя свою стратегию с учетом вероятности ложных данных. Собственно, Уоттс не сказал нам ничего нового. Недаром в хоре восторженных откликов на роман раздавались и скептические голоса: мол, из-за чего весь этот шум?
Не проще ли, скажем, обратиться к классике, например к эпилогу «Войны и мира»?
«Всякий человек, дикий и мыслитель, как бы неотразимо ему ни доказывали рассуждение и опыт то, что невозможно представить себе два разных поступка в одних и тех же условиях, чувствует, что без этого бессмысленного представления (составляющего сущность свободы) он не может себе представить жизни. Он чувствует, что, как бы это ни было невозможно, это есть; ибо без этого представления свободы он не только не понимал бы жизни, но не мог бы жить ни одного мгновения.
Он не мог бы жить потому, что все стремления людей, все побуждения к жизни суть только стремления к увеличению свободы. Богатство — бедность, слава — неизвестность, власть — подвластность, сила — слабость, здоровье — болезнь, образование — невежество, труд — досуг, сытость — голод, добродетель — порок суть только ббольшие или меньшие степени свободы.
Представить себе человека, не имеющего свободы, нельзя иначе, как лишенным жизни.
Если понятие о свободе для разума представляется бессмысленным противоречием, как возможность совершить два разных поступка в одних и тех же условиях или как действие без причины, то это доказывает только то, что сознание не подлежит разуму» [27] .
Кажется, сказано вполне достаточно. И гораздо раньше, чем это сделал Уоттс.
Можно ли на этом успокоиться? Вряд ли.
Хитроумный Уоттс подбрасывает нам напоследок одну странную деталь. Эвакуируясь с растерзанного, уничтоженного корабля, герой сталкивается со своим командиром, вампиром Юккой Сарасти, который, собственно, и велит ему убираться. Тут есть, однако, небольшая закавыка. Вампир мертв. Тем не менее он отдает приказ и даже вступает с героем в диалог — при помощи наладонника, работающего
в текстовом режиме (говорить он не может — голова разворочена, мозг погиб). И в ходе этого диалога вроде бы выясняется, что никакого страшного Сарасти, вампира, извечного врага и страха человечества, своей харизмой подавляющего «мясо», человеческий экипаж, на корабле никогда и не было. А был лишь придаток Капитана, суперкомпьютера «Тезея», собственно и принимавшего все стратегические решения.
«Труп Сарасти подтолкнул меня в спину. Я обернулся.
— Это хоть когда-нибудь был он? — спросил я.
Иди.
— Скажи. Он хоть раз говорил за себя? Решал ли хоть что-нибудь сам? Следовали мы хоть раз его указаниям или это все время был ты?
Неживые, стеклянные глаза Сарасти непонимающе пялились на меня. Пальцы его заскребли по наладоннику.
Лди плхо выплняют прикзы мшн. Так вам спкойней » [28] .
Так что же, выходит, вся команда экспертов, искалечивших и перекроивших свои тела в угоду торжеству «человеческого» разума, выполняя сложнейшее задание, рискуя жизнями и в конце концов эти жизни отдав за «правое дело», не раздумывая, подчинялась искусственному интеллекту, по определению (как мы уже выяснили тут) в нашем понимании не разумному? Интеллекту, руководствующемуся в своих действиях «высшей прагматикой», без
