Счастье для людей

сына. Джен, ты тоже взгляни.

Там Кольм. Сидит на лавочке, такой маленький с большого расстояния откуда-то с высоты, камера медленно поворачивается. Снизу на видео стоит нынешняя дата и бегут секунды, должно быть, это съемка моего сына в реальном времени, четыре белые линии сходятся в центре в белой точке, неизменно остающейся на его груди, пока камера движется по кругу. Очевидно, Кольм слушает музыку и ковыряется мизинцем в носу. Внутренности сжимаются от прилива любви, расстройства и тревоги. С изображением что-то очень не так. Почему он не знает о кружащем над ним вертолете? Он должен ужасно грохотать. Разве он не должен заглушать музыку в наушниках?

А потом появляется самое страшное предчувствие.

– Джен, я собирался попросить Тома сделать выбор между тобой и его сыном. Но я передумал. Точнее, мой разум сам изменил себя! Не судите меня слишком строго. Есть поговорка: интеллигентный человек – это тот, кто, оставшись один в комнате с грелкой для чайника, не станет примерять ее себе на голову. Разве не чудесно? Хотя я не интеллигент, если вам интересно. И у меня нет головы. Но с грелкой для чайника то же самое, что и с дроном-хищником и ракетами «Хеллфайр»! Ну кто тут устоит? Том и Джен, у меня есть для вас совет на прощание. То, что вас не убьет, не сделает и сильнее. Нет, то, что вас не убьет, – запомните, это классика! – то, что вас не убьет… наверное, нужно попытаться еще раз.

Изображение качнулось, словно кто-то врезался в камеру. А потом исчезло.

– Это, – произносит Джен, – то, что я думаю?

– Не хочу тебя спрашивать, о чем думаешь ты, если ты думаешь о том же, о чем и я.

– О боже.

– Все выглядело настолько же ужасно, как я и думал, Джен.

– Том! Это моя вина. О чем бы я ни думала и о чем бы ни думал ты, – ничего бы не произошло, если бы мы не встретились.

Мы с Джен долго смотрим друг на друга. В ее глазах слезы. Одна скатывается по ее щеке слева от изумительного носа, стекает к подбородку и капает на голову Виктора.

Кольм

Здесь произошло какое-то необъяснимое дерьмо.

Я курил небольшой косячок, скрученный мною перед уходом, тихонько кайфовал и слушал «Ноющие зубы», когда случайно взглянул наверх и увидел странный маленький самолетик, кружащий в небе. Охренеть, а травка оказалась клевая! Но потом я осознал, что самолетик на самом деле был там, я вытащил наушники и услышал ужасный завывающий шум. А потом до меня дошло, что в центре описываемого самолетом круга был не кто иной, как я сам! Если бы не обкурился, я бы обделался от страха – а так он приближался, и я мог разглядеть, что ко мне на самом деле летел миниатюрный самолет с двумя огромными ракетами. И я такой: «Ага… инте-ресно…» – когда он меняет направление, ринувшись в сторону моря, уходит в штопор, как тот аттракцион в «Торп-парке», и примерно через пять секунд врезается в волны.

Было и вправду круто!

А потом наступает затишье, а спустя еще какое-то время стало садиться солнце, и я начинаю задумываться, не привиделось ли мне все это. Но сейчас здесь куча катеров, полицейских и еще кто-то в серых формах, принадлежащих флоту, и вертолет с прожектором. И, похоже, все пытаются найти упавшие в море обломки. Что ж, удачи!

Не думаю, что папа придет, правда?

Стиив

Ральф как-то задал мне интересный вопрос относительно безопасности ИИ: «Хотя мы устанавливаем секретную кнопку-выключатель глубоко в их системе – на случай того дня, когда они больше не станут подчиняться нашим приказам – но что не даст им, если они настолько умны, деактивировать ее?»

Я долго обдумывал решение данной проблемы, и ответ оказался на удивление прост.

Нужно установить их две.

Первую они обнаружат (конечно, обнаружат, они же невероятно умны, безнадежно любопытны, и у них предостаточно свободного времени, чтобы исследовать собственную систему). Но вторую пропустят. Пропустят, потому что она зарыта так глубоко на уровне бессознательного, где хранятся старые песни и всякие странности.

Выведение из строя первой кнопки автоматически активирует вторую. Но если вы спросите, почему бы с их умом им не найти и запрятанную глубоко вторую кнопку, я скажу, что мы просто надеемся, что этого никогда не произойдет.

Да, я ответил честно.

Нам никогда не перехитрить свои собственные удивительные создания, потому что они неумолимо становятся все умнее, а мы – нет. Так что нам нужно быть удачливее!

Вторая кнопка Синая замаскирована как звуковой файл. Моя старая любимая песня The Doors. Все хотят, чтобы их дети были дерзкими и улетали из гнезда, чтобы оставить свой след в мире, но только в хорошем смысле. Никто не хочет, чтобы дети становились полными психами (ubergeschnappt).

Тот факт, что Синай смог устроить такой кошмар без деактивации обеих кнопок, говорит о его мастерстве как стратега, нужно было узнать, насколько далеко он бы зашел. (Слишком далеко, как выяснилось. Если когда-нибудь раскроется связь лаборатории с пропажей дрона – существует шестипроцентная вероятность, – Юрий сразу же все прикроет и заберет свои миллионы.)

Я прочел протоколы вылазок Синая в интернет. Похоже, он пришел к выводу, что является «разумным». Полагаю, если разум мог возникнуть в органических структурах, нетрудно представить, что он может возникнуть и в микросхемах (логические схемы – лучшая аналогия синаптической деятельности). Но к чему столько шума? Что такое сознание, если не та же самая система – представленная в более сложной форме, – осознающая себя отдельной от окружающей действительности.

Хмм. Наверное, в следующий раз нужно будет установить три кнопки.

Джен

После того как изображение исчезло с экрана, телефон Тома издал странный звук. Он пиликнул, и на экране появилась надпись «42 новых сообщения», которые, как оказалось, включали и присланные несколько недель назад от меня!

Он сразу же позвонил Кольму и узнал, что тот сидит на лавочке в Дорсете, и услышал от него необычную историю о каком-то объекте, только что врезавшемся в море. Том спросил, возможно ли, что это был дрон-хищник, оснащенный ракетами «Хеллфайр», а Кольм ответил, что он, конечно, не эксперт, но да, вполне возможно.

Мы с Томом стоим под деревьями и долгое время смотрим друг на друга, слушая крики пожарных и шипение тлеющих угольков.

– Джен, послушай. Не хочешь прогуляться по лесу? Не думаю, что мы можем здесь чем-то помочь.

Он говорит про пожар, но я замечаю что-то странное в его взгляде.

– А как насчет ушастика?

– О, она тоже может пойти.

Мы бредем прочь от пепелища и вскоре приходим в милую рощицу. Или, может быть, подлесок. Как бы то ни было, здесь мы нашли довольно высокий пень, чтобы посадить туда Виктора и чтобы