– Повинуюсь, – сухо произнес машинный голос. Теперь он стал совершенно бесстрастным.
– Вели роботам освободить нас.
Итгол, Игара и Эва ушли. Я остался наедине с Машиной: мне не терпелось выяснить, что же происходило на астероиде. Я был уверен: Машина знает обо всем – это дело ее рук.
Тогда я еще не знала, что случилось. Люди вдруг собрались покинуть астероид. Если бы не мальчик, я не узнала бы и этого: люди никогда не посвящали меня в свои дела. Я получала только приказы. Конструктор поступил со мною безжалостно: мой мозг разделен надвое – я вынуждена действовать вопреки собственным желаниям: одна половина моих нейронов решает, как помочь суслам и фильсам захватить в плен пришельцев, другая – организовывает оборону жилых помещений астероида.
– Кто такие фильсы и суслы? Что здесь произошло за тридцать тысяч лет? Рассказывай по порядку, – потребовал я.
'Я обязана выполнить приказ'.
– Очень важный для меня разговор между старшим мантенераиком и его племянником незадолго до катастрофы состоялся здесь, – начала Машина свою исповедь.
– Через два месяца ты полетишь на Землю, чтобы закончить образование. Вернешься взрослым и, как знать, может быть, не застанешь меня в живых.
Мальчик хотел что-то возразить, но старший мантенераик не дал ему.
– Я сказал это вовсе не за тем, чтобы ты посочувствовал мне. Двадцать лет я конструировал и собственными руками собирал важнейшие узлы чудовища. – При последних словах Человек рукой показал на меня. – Никто другой не знает ее схемы.
– Чуть ли не ежедневно я подвергал себя опасному излучению. Никакие меры предосторожности не давали полной защиты. С мыслью о скорой смерти я примирился. Жалею только об одном: моей жизни не хватит завершить начатое. Это сделаешь ты. Все мои расчеты и планы спрятаны в сейфе, про который никто не знает. Ключ от него я передам тебе. Но без помощи Машины и ты будешь бессилен завершить начатое. Поэтому я принял меры, чтобы хозяином положения на астероиде стал ты. Мне пришлось поступить незаконно. Я уверен, что совет Карста не посчитался бы с моими желаниями. Эти пустоголовые тупицы определят на должность старшего мантенераика какого-нибудь идиота, умеющего быстрее других считать. Выслушай меня внимательно, я хочу объяснить тебе, почему поступаю вопреки законам. Тебе известен важнейший правовой принцип, которым руководствуются на Карсте. 'Любое возможное разногласие разрешается в пользу большинства. Одиночные желания и мнения при выборе решения не учитываются'.
– Мне кажется, это справедливый закон, – сказал мальчик.
– Так же считал и я, пока… Пока мои собственные желания совпадали с желаниями большинства. Обещай ничего не предпринимать раньше, чем возвратишься с Земли. Оттого, что пароль будешь знать ты один, никто не может пострадать. Чтобы обрести самостоятельность, Машине необходим длительный срок. Я намеренно оставил ей возможность саморазвития. Но только возможность. Чтобы она проявилась, в мозг Машины необходимо ввести новые знания. Сейчас она знает лишь самое необходимое, достаточное, чтобы справляться с обслуживанием жилых отсеков и подсобного хозяйства. Разделительные барьеры между двумя блоками мозговых клеток поставлены умышленно-нельзя допустить, чтобы все тридцать шесть миллиардов ее нейронов работали слаженно, никем не контролируемые. Но ей оставлена единственная лазейка. Отыскав ее, Машина может выйти из повиновения.
Ты спросишь: ради чего идти на подобный риск? Отвечу: мне нужна была не просто счетная машина, ко творческая. Любое думающее устройство способно на самостоятельное творчество, только обладая свободой выбора. Полностью контролируемая деятельность машины никогда не станет творческой. Мозг Машины во много крат превышает норму, необходимую для выполнения технических и хозяйственных задач на астероиде. Он рассчитан на творчество. Пока эта способность еще не проявлена. Машина-всего лишь тупой, идиотски точный счетчик, способный находить оптимальные решения.
– Когда же она научится творить?
– Не раньше, чем поставит себе собственную задачу. Для этого ей нужно время. Оно может быть сокращено, если в нее ввести дополнительные знания. Потребность приобретать знания задана ей. Но до поры я сознательно ограничил норму информации, держу ее на скудном пайке. Я не хочу, чтобы Машина обрела самостоятельность раньше, чем возвратишься ты и сможешь направлять ее творчество. Секрет, как сохранить над нею власть, я передам тебе. Если ей дать полную волю, она способна наделать бед.
– Но почему? Разве в ее программу не заложены шесть основных правил гуманности? Мы проходили это еще в начальной школе.
– Меня радует твоя любознательность. Ты прав: шесть принципов гуманности заданы ей как обязательная норма – она не может причинить вред человеку или замыслить что-либо во вред ему. Но… Нельзя преступить только законы природы, но не юридическую норму. Попытаюсь объяснить тебе, почему Машина может стать опасной, только для этого придется отвлечься.
Старший мантенеранк приказал мне выдвинуть из стены два кресла. В одно сел сам, в другое усадил племянника. Разговор этот становился мучительно интересным для меня. Полная запись его хранится в глубинном блоке долговременной памяти, я могу воспроизвести ее полностью, если это необходимо. ^
Я сказал:
– Необходимо.
Минуту спустя я услышал голос Виктора, записанный на пленку:
– Вопрос, что такое 'свобода воли', не обходила ни одна из философских школ, – такими словами начал Виктор. – Подробно с различиями в толкование этого вопроса ты познакомишься сам. Меня интересовали не философские разноречия и даже не социальная сущность понятия 'свобода воли'. Я исходил из такого вывода: все ошибки, совершаемые человечеством, вызваны тем, что он утратил кровную связь с остальной природой.
Я считаю ошибочным убеждение, будто человек возвысился над природой и подчинил ее. Природа не выступает против человека сознательно, но законы ее развития таковы, что самовластие одного животного вида, поставившего себя выше других, нарушает естественное равновесие, и рано или поздно этот вид обречен исчезнуть. Человечеству угрожает гибель. На первый взгляд, это может показаться парадоксальным: мы научились создавать условия, необходимые для жизни даже в космосе, могущественная техника с избытком обеспечивает наши потребности в энергии и продовольствии – но именно это и погубит нас. К такому убеждению я пришел давно. Я сделал попытку растолковать опасность на собрании Карста. Они не захотели прислушаться. Тогда я задался целью спасти человечество в одиночку.
– Но почему… почему человечество должно погибнуть? – перебил Виктора племянник.
Голос мальчишки был поразительно знаком мне, как будто эти слова произнес я сам. На мгновение намять озарила вспышка ясновидения: увидел этот же самый зал и Виктора, сидящего на стуле. Тыльной стороной руки мантенераик вытер капельки пота, выступившие на лбу.
Но тут же видение рассеялось. Я снова слышал только голос, записанный на пленку:
– Это нелегко объяснить коротко. Когда получишь образование, ты прочитаешь обо всем в моих записках. Они находятся в потайном сейфе. Основной вывод: вручив свою судьбу технике, передав счетным устройствам – их стали называть мыслящими – значительную долю творческой деятельности, человек начал терять любознательность. Человечество погибнет из-за внутренней опустошенности. С потерею любопытства в самом генетическом коде произошли незаметные изменения – люди становятся пассивными и безучастными. Будущее стало совершенно безразлично нам-нашим чувствам. Даже разум не способен придумать ничего увлекательного – скучные идиллистические картинки сплошного благополучия.
Старший мантенераик надолго замолчал. Мне слышно было, как вхолостую прокручивается пленка, на которой записана тишина этого зала тридцатитысячелетней давности.
Я опять потерял способность сознавать себя Олесовым – превратился в мальчишку.
Я сижу напротив дяди Виктора и мучительно морщу лоб. Разговор заинтриговал меня, я хочу понять
