Появление и описание новых видов динамически агрегируемых «информационных граждан» и агрегируемых платформ, будь они коллективными или индивидуальными, биологическими, корпоративными, национальными или транснациональными, дарит нам огромные новые возможности — не только как представителям одного вида или определенного композита объектов и свойств, но как новому виду людей — совладельцев информационной культуры, экономики и идеологии, у которых по общему праву рождения есть доступ к любой культуре и к любой системе.
Возможно, гибридные мыслящие машины «человек-объект-система» уже становятся мощным источником энергии для истощенной исторической среды. Возможно, нам придется вообще пересмотреть траекторию развития практической творческой деятельности. Не получится ли так, что время возникновения мыслящих машин вдохновит нас на переосмысление и переопределение того, что значит быть настоящим человеком, что значит связь с бесконечностью? Уже получилось.
Предсказывать будущее легко
Будущее есть простая система с известным начальным состоянием. Давать детальные прогнозы по поводу такой сложной, плохо изученной системы, как человеческая цивилизация, — дело безнадежное. И все же общий аргумент создает примитивные, но серьезные ограничения.
Аргумент состоит в том, что мы, вероятно, типичные представители разумных существ. Их множество должно определяться общими критериями, которым мы все соответствуем, а не такими, которые специально подобраны, чтобы сделать нас особенными. Например, вероятность того, что некий случайно выдернутый из истории человек окажется одним из первых 0,1 % людей на Земле, составляет ну 0,1 % при отсутствии другой информации. Конечно, наши предки 10 000 лет назад сделали бы из тех же рассуждений неверные выводы. А вот шанс обнаружить его среди всех когда либо живших людей куда выше — 99,9 %. Вероятность того, что именно мы оказались среди первых разумных объектов Вселенной, живых или искусственных, ничтожно мала.
Задачу на вычисление вероятности придется дополнить, если когда-нибудь мы каким-то образом получим новую информацию, подтверждающую, что человеческая цивилизация продолжит свое существование в нынешней численности (что, конечно, маловероятно). Это будет один из возможных способов выяснить, что мы проиграли ставку. Но у нас такой информации нет, так что вероятностям нужно присвоить соответствующие значения (такой тип рассуждений изложен в работах астрофизиков Джона Ричарда Готта, Александра Виленкина и многих других).
Предположение, что мы можем рассматривать себя в качестве случайно выбранных элементов, иногда оспаривается, но на самом деле является краеугольным камнем научного метода. В физике и других науках теории почти никогда не дают точных прогнозов. Вместо этого мы вычисляем вероятностное распределение на основании теории. Возьмем атом водорода: вероятность обнаружить электрон в миле от протона не равна нулю, она просто очень-очень мала. Однако когда мы находим электрон, то не принимаем всерьез возможность того, что он является частью некоего далекого атома водорода. Чаще всего, повторив эксперимент достаточно много раз и найдя вероятность определенного исхода достаточно низкой в соответствии с некоторой гипотезой, мы отвергаем эту гипотезу и переходим к следующей. Поступая таким образом, мы делаем ставку на то, что не являемся очень нетипичными наблюдателями.
Важное правило: мы не формулируем вопрос, после того как провели наблюдение, так, чтобы результат выглядел удивительным. Например, не важно, где мы обнаружим электрон; постфактум вероятность его обнаружения в конкретной точке в сравнении со всеми остальными местами, где он мог оказаться, в любом случае была мала. Это бессмысленно, поскольку мы вряд ли сформулировали бы вопрос таким образом до проведения измерений. Аналогично люди вполне могут быть атипичны в отношении некоторых измеренных нами переменных: не исключено, что у самых умных объектов в видимой части Вселенной не по десять пальцев. Однако наше расположение в полном временно?м распределении всех людей на Земле для нас неизвестно. Мы знаем, сколько прошло времени, знаем, сколько людей родилось с момента появления человека, но не знаем, как это соотносится с полным временным диапазоном или общим числом разумных наблюдателей на Земле. Предположение о типичности можно применить к этим вопросам.
Наша типичность делает крайне маловероятными следующие два сценария: (а) люди продолжат существовать много миллионов лет — с помощью мыслящих машин или без; и (б) люди будут вытеснены более долгоживущей или более крупной цивилизацией совершенно иного типа, например мыслящими машинами. Если бы хоть один из них реализовался, то мы оказались бы среди первых разумных наблюдателей на Земле либо во времени, либо в численности, а следовательно, были бы очень атипичны.
Типичность подразумевает нашу вероятную гибель в течение следующих нескольких миллионов лет. Но из этого никак не следует, что ее придется принять от рук (или других конечностей) искусственного интеллекта; как бы там ни было, недостатка в сценариях конца света мы не испытываем.
Типичность соотносится с возможностью существования достаточно большого числа цивилизаций, которые формируются и угасают где-то в нашей галактике или за ее пределами. По тем же причинам маловероятно, что продолжительность жизни таких цивилизаций значительно превосходит нашу —
