угрожает куда большим риском — риском нанесения существенного вреда в физическом мире.
Кроме того, каждая из этих технологий предлагает баснословные перспективы: скорое бессмертие, которое предвидит Курцвейль в своих робототехнических мечтах, манит нас; генная инженерия может вскоре обеспечить лечение, если не полное уничтожение, большинства болезней; а нанотехнология и наномедицина могут справляться с еще большим количеством заболеваний. Вместе они могли бы значительно продлить среднюю продолжительность нашей жизни и улучшить ее качество. В то же время результаты мелких, лично ощутимых продвижений, совершаемых благодаря каждой из этих технологий, ведут к накоплению большой власти и, соответственно, возникновению большой опасности.
Чем отличался XX век? Разумеется, технологии, лежавшие в основе оружия массового поражения — ядерного, биологического и химического (NBC-технологии), были мощными, а оружие представляло собой чудовищную угрозу. Однако создание ядерного оружия требовало, по крайней мере какое-то время, доступа к двум редким — и в действительности не всегда имевшимся в распоряжении — источникам: сырью и тщательно защищаемой информации. Программы по созданию биологического и химического оружия также требовали масштабной деятельности.
Технологии XXI века — генетика, нанотехнология и робототехника (GNR-технологии) — настолько мощны, что могут вызвать новые разновидности катастроф и злоупотреблений. В первую очередь опасность представляет доступность этих технологий отдельным лицам или небольшим группам. Им не потребуется много оборудования или редкое сырье. Одно лишь знание сделает возможным использование этих технологий.
Таким образом, мы получаем возможность создавать не просто оружие массового уничтожения, а формулировать знание, позволяющее производить массовое уничтожение. Его разрушительная сила будет значительно усилена способностью самовоспроизводства.
Думаю, не будет преувеличением сказать, что мы находимся на пике дальнейшего усовершенствования предельного зла — зла, возможности которого выходят далеко за пределы оружия массового уничтожения, находящегося в распоряжении государств-наций, и могут привести к непредсказуемому и ужасному могуществу отдельных экстремистов.
Моя работа с компьютерами никогда не наводила меня на мысль о том, что мне придется столкнуться с подобными проблемами.
С самого начала моей жизнью руководила потребность задавать вопросы и находить на них ответы. В возрасте трех лет я уже умел читать, поэтому отец отвел меня в начальную школу. Меня усадили на колени к директору, и я прочел ему какой-то текст. В школу я пошел рано, потом стал «перепрыгивать» через классы и с головой уходил в книги: мною двигало невероятное желание познавать. Я задавал много вопросов и нередко сбивал взрослых с толку.
Подростком меня очень интересовала наука и технология. Я хотел стать радиолюбителем, но у меня не было денег для покупки необходимого оборудования. Для той поры радиолюбительство было подобно Интернету: на него быстро «подсаживались», и в то же время это было одинокое занятие. Помимо финансовых трудностей, моему намерению помешала твердая позиция моей матери. Она решила, что я ни за что не буду радиолюбителем. Я и без того был достаточно замкнут.
Может, у меня и не было много близких друзей, зато меня переполняли идеи. К началу средней школы я открыл для себя великих авторов научно-фантастических произведений. Особенно мне запомнились такие произведения, как «Будет скафандр — будут и путешествия» Хайнлайна и «Я, робот» Азимова, где были сформулированы три закона робототехники. Я был очарован описаниями космических путешествий, и мне хотелось иметь телескоп для того, чтобы смотреть на звезды. Поскольку у меня не было денег на покупку телескопа или его сборку, вместо этого я стал искать в библиотеке книги по конструированию телескопов и штудировать их. Я парил в своем воображении.
По четвергам вечером родители уходили играть в боулинг, и мы, дети, оставались дома одни. В один из таких вечеров я посмотрел оригинальную версию «Звездного пути» Джина Родденберри. Эта программа произвела на меня неизгладимое впечатление. Я согласился с ее идеей о том, что у человечества есть будущее в космосе, на манер вестернов — с великими героями и приключениями. Представление Родденберри о будущих столетиях было наполнено твердыми моральными ценностями, выраженными в таких закодированных посланиях, как «главная директива» — не вмешиваться в судьбу цивилизаций с менее развитой технологией. Это намерение казалось мне необычайно привлекательным, потому что получалось, что будущее будут определять люди с определенными духовными ориентирами, а вовсе не роботы. Так что мечта Родденберри стала и моей.
Учась в средней школе, я преуспел в математике, а поступив в Мичиганский университет на инженерный факультет, я записался на продвинутый курс высшей математики. Решение математических задачек было захватывающим испытанием для меня. Однако когда я открыл для себя компьютеры, то нашел нечто более интересное — машину, в которую можно было заложить программу. И уже программа пыталась решить задачу, после чего машина быстро проверяла решение. У компьютера было четкое понимание правильного и неправильного, истинного и ложного. Были ли мои идеи верными? Машина могла бы ответить на этот вопрос. Это было очень соблазнительно.
Мне повезло, и я получил работу, связанную с программированием первых суперкомпьютеров, и открыл поразительную способность больших машин к числовому моделированию сложных систем. Когда в середине 1970-х я поступил в аспирантуру Калифорнийского университета в Беркли, я начал поздно ложиться спать и часто просиживал всю ночь, изобретая новые миры внутри машин. Решая задачи. Сочиняя программы, которые так и напрашивались на то, чтобы их написали.
В биографическом романе о Микеланджело «Муки и радости», принадлежащем перу Ирвинга Стоуна, автор очень ярко описал, как Микеланджело высекал свои статуи из камня, «разбивая чары мрамора», следуя за образами, которые были у него в уме.[186] В мои самые экстатические моменты программа возникала на компьютере так же, как статуя под рукой Микеланджело. Однажды мне показалось, будто я ощущаю, что программа уже в машине и ждет, чтобы ее выпустили на волю. Бессонные ночи казались малой ценой, которую надо было заплатить для освобождения программы — для того, чтобы придать идеям конкретную форму.
Стоун так описывает протекание творческого процесса у Микеланджело: «Он работал не на основе набросков или глиняных моделей; они все отставлялись в сторону. Он высекал скульптуру по образу, который был у него в голове. Его глаза и руки знали, где должна пройти каждая линия, каждый изгиб и возникнуть масса и на какой глубине в сердце камня нужно высекать барельеф»
После нескольких лет обучения в Беркли я стал отсылать некоторые написанные мною программы — учебную систему для Паскаль, утилиты для UNIX и текстовый редактор под названием «vi» (который, к моему вящему удивлению, все еще используется, хотя с момента его создания прошло больше двадцати лет) — другим людям, у которых были похожие на мой небольшие миникомпьютеры PDP-11 и VAX. Эти достижения в области программного обеспечения в конечном итоге привели к созданию в Беркли своей версии операционной системы UNIX, ставшей личным «успешным бедствием»: так много людей жаждало ее, что я рисковал никогда не закончить свою докторскую. Вместо этого я получил работу в DARPA,[187] отладив берклийскую версию системы UNIX для работы с Интернетом и сделав так, чтобы она заслуживала доверия и хорошо поддерживала большие исследовательские приложения. Все это доставило мне немало удовольствия и было по достоинству вознаграждено. И, честно говоря, роботы не встречались мне ни там, ни где бы то ни было поблизости.
И все-таки к началу 1980-х годов я находился в кризисе. Релизы UNIX были очень успешными, и вскоре мой небольшой проект получил деньги и кое-какой персонал. Однако в Беркли всегда было больше проблем с офисным пространством, чем с финансированием. У них не нашлось вспомогательного помещения, необходимого для реализации проекта. Так что, когда на горизонте появились другие учредители будущей Sun Microsystems, я не упустил этот шанс. Благодаря долгим часам работы в Sun рождались первые рабочие станции и персональные компьютеры. Я наслаждался тем, что принимал участи в разработке технологий, позволяющих создавать усовершенствованные микропроцессоры, и таких Интернет-технологий, как Java и Jini.
Надеюсь, что благодаря всему вышесказанному понятно, что я не луддит. Скорее, наоборот. Я всегда верил в ценность научно-исследовательского поиска, стремящегося к истине, и в способность великих
