«овец» (масс), а от желаний и интересов «волков». У «волков» есть свои прогнозисты и свои симуляции (которые невозможно просимулировать — это как игра в шахматы).
Что касается примерного прогноза отдельных аспектов поведения людей или общества, то тут не нужно самосознание. Достаточно правильных алгоритмов. Псевдоразумный человек без личности (в философии их называют «философские зомби») может вести себя так же, как и обычный человек. Вот почему даже слабых этических запретов на виртуальные мучения разумных существ будет достаточно, чтобы использовать только зомби.
Разумеется, это не отменяет создания мыслящих и создающих существ внутри компьютера, но это показывает, что для массовки они вряд ли потребуются. С теми случаями, когда создается настоящая личность, можно разобраться отдельно. Проще всего дать личности право выхода на уровень выше.
Если мы даже на секунду предполагаем, что наш мир — не реален, то мы полностью лишаемся возможности судить о том, каков настоящий реальный мир. А раз так, то и судить о том, какие миры нормальные, а какие — нет, не стоит. Физики сейчас занимаются тем, чтобы вывести все богатство нашего мира из очень простых правил. Есть компьютерные модели образования вселенной, галактик, звезд, планет, жизни и т. д. Пока образование нашего мира выглядит вполне логично.
Можно ли по каким-то приметам определить, насколько реален наш мир? Для нас он единственно реален. Есть более глубокие проблемы, например, как быть с тем, что даже реальные личности виртуальны, потому что их жизнь может быть с исчерпывающей точностью описана очень большим, но конечным натуральным числом. Об этом очень хорошо написал Грег Эган в книге «Permutation city», показав, как живется математическим конструкциям.
Понимание своей виртуальности не отменяет причинно-следственных связей, присущих нашему миру. За действием следует воздаяние, в том числе и для виртуальных личностей: хорошо работаете — хорошо кушаете, даже если еда виртуальная. Симуляция предполагает определенные правила, поэтому вы можете их использовать для достижения собственных целей. Другое дело, что понимание виртуального характера всего и осознание возможности моделирования и модификации личности заставляет задуматься о произвольности любых целевых установок. Это гораздо более серьезная проблема. Ведь любые цели и ценности, которые могут быть у человека, одинаково хороши просто потому, что они одинаково реальны и возможны. Поэтому как объяснить лентяю, что лениться плохо, если у него в голове другая целевая функция? Для него лениться — хорошо, даже если он и голодает.
Весьма вероятно, что когда мы будем (или когда наши создатели начали, сколь бы маловероятно это ни было) создавать виртуальные миры, мы станем уважать достоинство каждой личности. Это значит, что такая личность будет в какой-то момент информирована о том, что она живет в симуляции, и ей будет предложен выбор (при жизни или после смерти) — оставаться в ней или подняться в реальный мир. Но в любом случае возможность такого перехода будет зависеть от воли создателей симуляции. Мы не можем знать, какие действия обрадуют всемогущих наблюдателей: перевести старушку через дорогу или толкнуть ее под машину, помочь однокласснику сделать уроки или подсадить его на героин; все зависит от того, кто нас создал и запустил — хороший мальчик или безумный социопат.
В лапах вероятностей
Так называемую теорему Судного дня (Doomsday argument) сформулировал в 1983 году астрофизик Брендон Картер (в честь него теорему иногда называют «катастрофой Картера»). Идея к тому времени уже носилась в воздухе, к ней почти одновременно пришел и другой ученый, профессор астрофизики из Принстона Ричард Готт. А несколько раньше до нее почти додумался австрийский физик, математик, один из отцов кибернетики Хейнц фон Фёрстер.
Приводить официальную формулировку теоремы вместе со всеми сопровождающими ее формулами я не буду. Это не совсем теорема, скорее — логические и вероятностные рассуждения, подкрепленные математической базой. Наиболее доходчиво их пересказал для неспециалистов профессор Оксфордского университета Ник Бостром. Я же постараюсь пересказать Бострома — еще более доходчиво и применительно к российским реалиям.
Итак, представьте себе базу отдыха, состоящую из 100 домиков. Как и положено, все домики пронумерованы: на каждом масляной краской написан номер. База работает по сменному принципу: все отдыхающие заезжают на нее одновременно и живут месяц, после чего домики освобождаются. Известно, что у хозяина базы есть интересный пунктик: каждую смену он заселяет, в зависимости от настроения, либо все домики, либо только первый десяток.
Вы приехали на базу глубокой ночью, вас поселили в какой-то домик, и вы сразу уснули. Проснувшись ранним утром, когда все остальные еще спят и спросить не у кого, вы решили выяснить, много ли у вас в этот раз будет друзей по смене.
Только как это сделать?
Пока вы сидите внутри своего домика, вам представляется вероятность того, что на базе проживает 100 отдыхающих, равной вероятности того, что их тут всего 10. Но у вас есть реальный шанс увеличить свою осведомленность. Для этого надо просто выйти и посмотреть, каков номер вашего домика. Если он больше 10, то можно быть абсолютно уверенным, что отдыхающих на базе, включая вас, — сотня. Вероятность попадания — почти 100 %. Итак, вы выходите и видите цифру 4. Теперь у вас есть мысль, что отдыхающих на базе лишь 10.
Вероятность того, что на базе отдыхают 10 человек, теперь для вас почти в 10 раз выше, чем вероятность того, что их здесь сотня. С 50 % она вырастает до 90 %.
На самом деле, если считать по науке, дотошно, то она будет равна не 90 %, а примерно 91 %, потому что у нас имеется 11 десятков: 10 из случая со 100 отдыхающими и 1 — из случая с 10. Из них нас интересует лишь тот десяток, что получается при маленьком заезде. 1 от 11 — это 9,09 %. Получается: вероятность того, что вы, приехав сюда в числе сотни, попали в первую десятку, составляет 9,09 %. Соответственно, вероятность того, что дело было в причуде хозяина (на этот раз он принял только 10 человек), составляет 100 % — 9,09 % = 90,91 %.
Значит, повторим это еще раз: обнаружив себя в первом десятке домиков, вы можете быть почти (на 90,91 %) уверены, что в одиннадцатом домике уже никто не живет.
Теперь переложим все эти наши рассуждения на судьбы человечества. Его дальнейшее развитие может протекать по двум сценариям. Первый — близкая катастрофа и ранняя гибель; второй — никакой глобальной катастрофы, а, напротив, спокойное дальнейшее развитие, колонизация Галактики и рост народонаселения.
По подсчетам нашего известного демографа, академика Сергея Петровича Капицы, до настоящего времени на Земле жило и прожило около 100 миллиардов человек. Предположим, что если в ближайшее время с человечеством ничего не произойдет (второй сценарий), через некоторое время оно, человечество, расселится по Галактике, ибо только в этом случае будет застраховано от гибели вследствие взрыва супервулкана или столкновения с шальным астероидом. Предположим также, что после нас родится еще как минимум 100 триллионов человек. То, что мы с вами родились в первой группе, равно тому, что мы оказались в первом десятке домов. Если бы история человечества развивалась по второму сценарию, если бы оно покинуло свою колыбель и расселилось в космосе (а мы уже сейчас стоим на пороге колонизации ближайших планет), то вероятность того, что мы, родившись, обнаружили бы себя в самой первой группе, была бы меньше 0,1 %. Если же верен первый сценарий и нас в ближайшем будущем ожидает полное вымирание (неважно, по каким причинам), то вероятность рождения в числе первых 100 миллиардов вплотную приближается к 100 %. Из 100 % вычтем 0,1 % и получим вероятность близкой катастрофы: 99,9 %. Это при условии, что число людей, родившихся и проживавших во Вселенной, когда-нибудь достигнет 100 триллионов. Конечно, у нас есть шансы попасть и в заветные 0,1 %, ведь даже в лотерею, бывает, люди выигрывают. Но теорема, которую мы сейчас разобрали, и не утверждает, что все мы обязательно умрем. Она только доказывает: шансов на то, что человечество будет жить долго и счастливо,
