происходит каждые 18 месяцев. Исходя из этого закона уже в ближайшее время компьютер окончательно превзойдет человека.
Главные проблемы начнутся тогда, когда компьютеры станут лучше нас. Создав машину, не уступающую ни в чем нашему собственному мозгу, мы затем заменим процессор на более быстрый или увеличим размер памяти, и компьютер станет совершеннее нас. Мы тут же получим машину, которая будет работать лучше, чем наш собственный мозг. Возможно, она сможет сконструировать более совершенный компьютер, чем могли бы это сделать мы. А этот компьютер, в свою очередь, сможет создать еще более совершенную машину, И так далее возможно даже с реализацией закона Мура в обозримом будущем. Через восемнадцать месяцев после того, как мы сконструируем компьютер, равный по мощности обработки данных нашему мозгу, появится новый компьютер, вдвое более мощный, А еще через восемнадцать месяцев мы получим компьютер с эффективностью обработки данных, в четыре раза превышающей нашу собственную. И так далее. Ничто из этого не является невозможным. Например, нейроны человека передают сигналы со скоростью 200 метров в секунду, в то время как электронные сигналы движутся со скоростью 100 миллионов метров в секунду в меди, а сигнал в оптическом процессе может в принципе перемещаться со скоростью 300 миллионов метров в секунду. Следовательно, можно обоснованно ожидать улучшения в скорости мысли в миллион раз, если разум будет перенесен от плоти к электронной матрице того же размера. Фактически сверхразумный компьютер — это последняя машина, которую сотворит человек. Как только компьютеры превзойдут нас по разуму, они неизбежно возьмут над нами верх. Очень скоро мы подойдем к этапу, когда компьютеры, конструирующие новое поколение машин, даже не смогут нам объяснить, что они делают: мы просто не сможем понять их объяснения. Даже на этом этапе человечеству может найтись применение. Нам, может быть, даже разрешат убираться возле этих машин — хотя, возможно, чая они требовать не станут. Они, возможно, оставят нескольких из нас в качестве домашних животных или же станут рассматривать наши причудливые мыслительные процессы как естественный источник развлечений[243].
Калифорнийский футуролог Вернор Виндж предсказывает: «В течение тридцати лет у нас появится технологическое средства для создания сверхчеловеческого разума. Вскоре после этого эпоха человека закончится».
Мы даже не заметим?
Возможно, машины установят контроль над человеком даже незаметно для него, и человек даже не будет подозревать, что он находится во власти машин, подобно герою фильма «Матрица»[244].
Конечно, фильм «Матрица» — фантастика, но то, что фантастическая литература предвосхитила и предсказала очень многие технические достижения, ставшие реальностью спустя несколько десятилетий или столетий, — это факт. Если отвлечься от красочно поставленных сцен драк, погоней и других атрибутов голливудской продукции и подойти к анализу данного произведения с чисто технической позиции, то мы увидим, что в ближайшее время никаких препятствий для осуществления мечты машин нет. Так, известный специалист по компьютерной технике Р. Курцвейль[245] утверждает, что ключевые элементы фантастического фильма вполне реализуемы в ближайшие десятилетия. Речь идет прежде всего о
а) создании искусственного разума, не уступающего по своим возможностям человеческому,
б) создании виртуальной реальности, чувственно не отличимой от реальности настоящей, физической,
в) возможности прямого обмена информацией между человеческим мозгом и компьютером[246].
Таким образом, все компоненты господства виртуальной реальности под контролем машин будут созданы уже в ближайшее время. А утешения Курцвейля в том смысле, что все будет хорошо, успокаивают мало.
Сценарии и реальность
Возможно ли господство машин над людьми в будущем? Мы не знаем, будут ли всем руководить роботы или человек интеллектуально деградирует и не сможет создавать совершенные машины. Возможны различные сценарии развития мира после вырождения человечества. Мы не можем сказать, что будет потом, но очень четко видно, что происходит сейчас. Закат человека — это, к сожалению, уже не прогноз. Мы — очевидцы этого процесса.
Следующий пример иллюстрирует сказанное. У летящего самолета отказали двигатели. Мы очевидцы этого. Значит, мы с полной уверенностью можем сказать: самолет разобьется. Но что будет потом, с такой полной уверенностью мы предсказать не можем. Погибнут ли все пассажиры и члены экипажа или кто-то выживет? Если кто-то выживет, останется ли он калекой или нет? Найдут ли черные ящики? Установят ли истинные причины катастрофы? Эти вопросы могут иметь различные варианты ответов, в отличие от вопроса о судьбе летящего самолета с отказавшими двигателями.
Глава III. Существует ли другие глобальные проблемы?
§1. Обзор глобальных проблем
Четвертая часть территории Америки покрыта лесами,
а остальная часть — бутылками из-под пива.
Неизвестный автор
Жизнь любого человека или общества предполагает возникновение проблем: одни — простые и легкие, другие — сложные и чреватые тяжелыми последствиями. Помимо катастрофической духовной деградации общества есть и другие угрозы глобального порядка. Наша задача — выяснить степень их опасности. Все основные глобальные проблемы можно разделить на три группы:
