бытовавшая среди сотрудников дневной смены, но суть ее мне неизвестна. Что же касается модуля Дум, то это, наверное, намек на то, что он не обладает разумом, – что-то вроде тумбы.
Женщина умолкла и пожала плечами. Она никогда не понимала такого рода шуток.
– Ладно, – подвел черту Правитель, – это все в сторону. Что я должен знать, чтобы не повредить «близнецам»?
– Что ж, повредить можно только модуль Ди. Модуль Дум представляет собой машину, не наделенную разумом. Это всего лишь вычислительный центр, а не робот. У него, впрочем, существует некий интерфейс, который позволяет вести с ним беседу, но, повторяю, он не робот и не подвластен действию Трех Законов. Модуль Ди – совсем другое дело. Она представляет собой огромный позитронный мозг со сложной системой взаимосвязи между отдельными его участками. Мозг робота, лишенный тела. В принципе это тот же самый «трехзаконный» робот, только лишенный способности передвигаться.
– И в чем заключается сложность? – требовательным тоном спросил Крэш. Было видно, что его терпение вот-вот лопнет.
– Это же совершенно очевидно, – ответила Соггдон, с запозданием сообразив, что ее ответ прозвучал довольно грубо. – Дело в том, что… Прошу прощения, сэр, но поймите одну вещь: модуль Ди отвечает за климат всей планеты – планеты, которая является домом для миллионов человеческих существ. Она была создана для того, чтобы перерабатывать колоссальные объемы информации, выдавать долгосрочные прогнозы, а также работать как в микро-, так и в макромасштабе.
– Ну и что из этого?
– Само собой разумеется, что в такой работе, как глобальные изменения климата планеты, неизбежны несчастные случаи и вообще неприятные ситуации. Одних людей выселяют с насиженных мест, другие страдают от затоплений, засух и бурь, которые являются прямым результатом действий, предпринятых по приказу этих машин. Таким образом, то здесь, то там людям время от времени причиняется вред.
– Я полагал, что система рассчитана таким образом, чтобы нейтрализовать конфликты, вызываемые Первым Законом. Я где-то читал про системы, задействованные в осуществлении крупных проектов, и там говорилось, будто их искусственный разум настроен так, чтобы польза для всего человечества превалировала над выгодой отдельно взятого индивидуума.
Соггдон покачала головой:
– Это работает, но лишь в немногих и весьма специфических случаях. Мне никогда не приходилось слышать, чтобы подобная система применялась широко. Раньше или позже искусственный разум с такой настройкой непременно сгорит или начнет давать сбои. Роботы, которых вы имеете в виду, имеют дело с просчетом гипотетических, даже абстрактных ситуаций, возможных в далеком будущем. А модулю Ди приходится иметь дело с анализом проблем повседневных, решениями сегодняшнего дня, причем такими, которые воздействуют на судьбы миллионов людей. С некоторыми она общается напрямую, разговаривая с ними, обмениваясь сообщениями и информацией. Модуль Ди не способна мыслить так, как вы говорите. Она воспринимает людей не как некую монолитную общность, а как отдельных индивидуумов.
– И в чем же заключается выход? – осведомился Крэш.
Соггдон набрала полную грудь воздуха и выпалила, словно хотела покончить с этими разъяснениями как можно скорее:
– Модуль Ди считает, что Инферно не существует.
– Что? – переспросил Крэш. Ему показалось, что он ослышался.
– Мы обманули Ди. Она думает, что проекта трансформации Инферно и самой планеты не существует, что они всего лишь смоделированы для того, чтобы просчитать варианты настоящей трансформации некоей настоящей планеты, к осуществлению которого еще только предстоит приступить.
– Бред какой-то! – воскликнул Крэш. – В это невозможно поверить!
– Однако, к счастью для всех нас, модуль Ди в это поверила.
– Но ведь в ее распоряжении имеется столько доказательств того, что это не так. Так много деталей… Их просто невозможно смоделировать!
– Мы «кормим» ее информацией очень дозированно и осторожно, – ответила Соггдон. – Не забывайте, искусственный мозг не может получать информацию самостоятельно. Только от нас. Откровенно говоря, время от времени мы намеренно подбрасываем ему ошибочные данные, противоречивые изображения или сведения, лишенные смысла. После этого мы исправляем эти «ошибки», создавая у Ди иллюзии, что это не реальная работа, а лишь моделирование, симуляция. Это заставляет ее думать, что все происходит не на самом деле, а как бы понарошку. В таком случае, если мы по недосмотру предоставим ей какую-то опасную информацию, мы в любой момент можем сказать, что это очередная ошибка, и она ничего не заподозрит. Модуль Ди считает, что Инферно – воображаемый мир, выдуманный специально для нее, и полагает, что сама она установлена в лаборатории, находящейся на Баливорде и предназначена для того, чтобы найти пути взаимодействия с компьютерным оборудованием поселенцев для использования в будущих проектах преобразования климата.
– Что?!
– Поверьте, это было необходимо. Если бы она поняла, что вы – реальный человек, она, без сомнения, удивилась бы тому, что вы делаете в ее выдуманном виртуальном мире. Нам приходится прилагать невероятные усилия для того, чтобы выдавать реальный мир за несуществующий.
– Значит, вы должны сообщить машине, что меня на самом деле не существует?
– Совершенно верно. С ее точки зрения, разумные существа делятся на три категории: те, которые существуют в реальном мире, но не имеют к ней отношения; те, которые существуют в реальном мире, находятся в этой лаборатории и общаются с ней; и, наконец, имитанты – разумные, но не существующие в реальном мире виртуальные существа.
– Имитанты? – эхом повторил Крэш, но это не было вопросом. Женщина поняла, что Правитель приказывает ей объяснить этот термин.
– О да, сэр. Так на профессиональном жаргоне называют разумных существ – людей и роботов, – которые создаются при моделировании тех или иных гипотетических ситуаций. По мнению модуля Ди, все население Инферно – не более чем набор искусственно созданных имитантов, и вы, сэр, входите в их число.
– То есть, по-вашему, я не могу разговаривать с машиной, поскольку она считает, что меня не существует? – уточнил Крэш.
– Не совсем так, сэр. Вы вполне можете беседовать с модулем Ди. Она каждый день разговаривает с инженерами-экологами, роботами полевой службы и так далее. Но она полагает, что все они играют написанные для них роли. Очень важно, чтобы Ди продолжала думать то же самое и о вас.
– Иначе мозг сможет заподозрить, что мир, который он считал выдуманным, на самом деле существует в реальности, и задумается о том, не причиняют ли его действия вреда живым людям, – продолжил Крэш мысль женщины.
– Дело в том, что ее действия уже стали причиной гибели нескольких человек, – подхватила Соггдон. – Это были несчастные случаи, без которых не обойтись, и в основе их лежало стремление спасти других людей в других местах. Эти случаи не оказали на мозг модуля Ди пагубного воздействия только потому, что она считала всех этих людей имитациями. Но даже о них машина заботится и бережет их, как своих детей. Ведь они – единственные, кого она знает.
– Они единственные, кто населяет ее мир, – сказал Крэш. – Но они не реальные люди.
– Конечно, конечно, но я веду к тому, что, даже считая их выдуманными, Ди уже начала верить в них. Примерно так, как писатель начинает верить в придуманные им персонажи или как хозяин собаки общается со своим любимцем, хотя и знает, что тот не понимает ни слова. Даже думая, что ее подопечных на самом деле не существует, модуль Ди неподдельно интересуется их судьбой и даже испытывает конфликт Первого Закона – хотя и весьма умеренный, – когда кто-то из них погибает, а она знает, что могла бы предотвратить эту смерть. Даже гибель имитанта заставляет ее переживать. А если бы она узнала, что, пусть даже помимо своей воли, является причиной гибели реальных людей, это был бы конец. В ее мозгу произошел бы обширный конфликт Первого Закона, ступор и как следствие – смерть. Но еще хуже было бы, если бы она после всего этого выжила.
– Почему это? – осведомился Крэш.
Соггдон посмотрела на массивную полусферу, устало вздохнула и покачала головой.
