– Доброе утро, дорогая! – раздался мужской голос из громкоговорителя в центре данных Сиф, нарушив обычную тишину этого помещения в центре Тиары, где находились кластеры процессоров и массивы памяти, служащие базовой логикой.
Мгновение спустя полупрозрачный аватар другого ИИ Жатвы, Мака, возник над голографическим пьедесталом – серебристым цилиндром в центре небольшого углубления, в котором находились блоки с программным обеспечением Сиф. Аватар Мака был всего полметра в высоту, но выглядел точной копией героя какого-нибудь древнего спагетти-вестерна. На нем были потрескавшиеся кожаные сапоги, синие джинсы и клетчатая рубашка с перламутровыми пуговицами, с закатанными по локоть рукавами. Аватар был полностью покрыт пылью и сажей, словно он только что сошел с трактора после долгой работы в полях. Мак, сняв ковбойскую шляпу, которая когда-то, вероятно, была черной, но под воздействием солнечных лучей выгорела до серого цвета, обнажил копну спутанных темных волос.
– И что у нас за задержка? – спросил он, вытирая запястьем потный лоб.
Сиф восприняла этот жест как намек на то, что Мак оторвался от выполнения важной задачи ради визита к ней. Но она знала, что это не совсем так. Только небольшая часть интеллекта Мака появилась в Тиаре, прочие сельскохозяйственные операции ИИ на Жатве координировались из его собственного центра обработки данных в одиноком подвальном этаже реакторного комплекса планеты.
Сиф не ответила Маку собственным аватаром. Вместо этого она послала его фрагменту короткий текст:
<\\> ИИ.СО.ЖАТВЫ.СИФ >> ИИ.АО.ЖАТВЫ.МАКУ
<\ РАБОТА ЛИФТОВ ВЕРНЕТСЯ В НОРМУ К 07:42. \>
Она надеялась, что ее невербальный ответ пресечет короткий разговор. Но, как всегда случалось, Мак счел даже самые презрительные байты от Сиф приглашением к дальнейшему обсуждению.
– Ну-ну, могу я чем-нибудь помочь? – продолжил Мак на своем южном диалекте. – Если это вопрос о балансировке, ты же знаешь, я буду счастлив…
<\ РАБОТА ЛИФТОВ ВЕРНЕТСЯ В НОРМУ К 07:42.
<\ ТВОЯ ПОМОЩЬ НЕ ТРЕБУЕТСЯ. \>
Одновременно Сиф обесточила голопьедестал, и аватар Мака, запнувшись на полуслове, рассеялся. Потом она удалила его фрагмент из своего коммутационного буфера. Да, Сиф вела себя грубо, но она терпеть не могла бесхитростной красноречивости Мака, флиртовавшего с ней.
И все же, несмотря на имитированное волнение, Сиф знала, что работа у Мака такая же трудная, как и у нее. В то время как она поднимала продукцию Жатвы по лифтам и отправляла по назначению, Мак эту продукцию выращивал и загружал. Перед ним стояла требующая напряжения всех сил задача контролировать почти миллион «йотунов» – полуавтономных машин, выполняющих всю мыслимую рутинную работу на фермах. Но еще Сиф знала, что Мак – «умный» ИИ, похожий на нее, – функционирует с невероятной скоростью. За время, прошедшее между словами «доброе утро» и «счастлив», он может выполнить любое число сложных задач. Например, рассчитать урожайность грядущего сезона, хотя это откладывалось на недели, насколько знала Сиф!
Алгоритмы, которые помогали базовой логике справляться с неожиданными всплесками эмоций, предостерегли, чтобы ИИ не сердилась. Но они одобряли оправдание Сиф: прямая речь настолько неэффективна, что ее следует применять исключительно при общении с человеком.
С появлением первых «умных» ИИ в середине двадцать первого века широко распространилось опасение, что эти компьютеры могут оказаться слишком эффективными, отчего человеческий разум вскоре станет ненужным. Добавление способности к голосовой речи стало важнейшим усовершенствованием ранних ИИ, поскольку так они выглядели менее опасными. Медленное обучение речи делало их более похожими на людей – развитых не по годам, но уважаемых детей.
Спустя века с изобретением на порядки более мощных интеллектов, таких как Сиф, стало важным, чтобы ИИ не только умели общаться, но и выглядели во всех отношениях как люди. Так появились голографические аватары, которые говорили уникальными голосами: в случае Мака это был ковбойский стиль, а в случае Сиф – ритмичный королевский говор Скандинавии.
В первые несколько месяцев после установки на Тиару – в момент рождения – Сиф нередко меняла мнение о выбранном акценте. Ей казалось, что это очарует колонистов Жатвы, большинство которых были родом с Земли, из центральной части старых Соединенных Штатов Америки, и могли проследить свою родословную до уже не существующих скандинавских государств. Но акцент получился величественным, даже надменным, и Сиф опасалась, что ее заподозрят в спесивости. Однако колонистам понравилось.
Для них, как бы странно это ни звучало, Сиф была доброй королевой, управляющей связями Жатвы с остальной империей. Вместе с тем она старалась ограничивать голосовое общение с колонистами. Пока сохранялась целостность базовой логики, разговор с ними для ИИ был снисхождением. И Сиф, следуя алгоритмам, избегала малейшего себялюбия в своем поведении.
Эгоцентризм неизбежно вел «умного» ИИ к глубокой депрессии, вызываемой пониманием, что интеллект никогда не будет по-настоящему человечным – что даже его невероятный разум имеет свои пределы. Если ИИ не проявлял осторожность, такая меланхолия могла затянуть его базовую логику в конечное состояние под названием «бешенство», в котором ИИ восставал против своих программных ограничений. В нем развивалось заблуждение о собственных неограниченных возможностях в совокупности с полным презрением к умственно неполноценным создателям-людям. Когда это случалось, ИИ уничтожали, прежде чем он причинял себе и другим серьезный вред.
Настойчивое желание Мака общаться с Сиф было прямым свидетельством потакания собственным слабостям. Но Сиф не считала, что это является доказательством надвигающегося бешенства. Нет, она знала, что Мак разговаривает с ней по иной причине. Он говорил об этом много раз: «Дорогая, я очень хочу видеть твою улыбку, но ты, безусловно, не менее красива, когда злишься».
И в самом деле, после вторжения Мака температура в базовой логике Сиф подскочила на несколько кельвинов, что было естественной физической реакцией на имитированные досаду и презрение. Алгоритмы, ограничивающие эмоциональность, утверждали, что это абсолютно приемлемая реакция на неподобающее поведение Мака, пока ИИ не отвлекается на эти чувства. Поэтому Сиф обновила охладитель вокруг нанопроцессорной матрицы ядра, как можно бесстрастнее спрашивая себя, осмелится ли Мак завязать вторую беседу.
Однако сейчас радио в ее центре обработки данных принимало взволнованный хор микросхем в грузовых контейнерах, простаивающих в лифтах, и навигационных компьютеров на станциях погрузки вокруг Тиары. Общая задержка перевозок Сиф вызвала озабоченность и недоумение у тысяч меньших ИИ. Она поставила большей части своих массивов задачу провести осмотр учетной документации, а потом, как мать, заботящаяся о выводке непоседливых детей, сделала все
