Так что простите мне то, что я не теряю сон от страха из-за компьютеров, которые могут захватить мир. Не все сразу, давайте будем действовать постепенно и посмотрим, готовы ли мы доверить машинам принятие простых решений, с которыми те уже справляются лучше людей.
Я вижу развитие симбиоза
Я полагаю, что мыслящие машины — самая интересная тема для раздумий. Почему? Потому что у этого феномена могут быть значительные последствия. Даже космические.
«Мыслящие машины» уже давно с нами. Это можно понимать по-разному, в зависимости от того, с какого слова начать. Давайте начнем со слова «машины», под которым сегодня мы обычно подразумеваем компьютеры. Компьютеры поначалу были ну очень даже механистичны. Но они становятся все более утонченными. Уже в 1980-х годах они совершали кое-какие замечательные трюки с экспертными системами и базами данных. Сегодня мы уже прошли ту точку, в которой могли в деталях объяснить, как распознавание речи и естественного языка позволяет вашему телефону отвечать на вопросы ребенка. Фраза «магическим образом» сегодня едва ли гипербола. Но мышление ли это на самом деле? Еще нет, но это хорошее начало, и движение продолжается. Цель и правда выглядит очень далекой. Вместо того чтобы рассматривать наш подъем шаг за шагом, давайте взглянем на то, что ждет нас на вершине. Что-нибудь может остановить наше развитие?
Будущее микроэлектронных технологий неясно. Закон Мура пока что работал на нас, провел через несколько опасных моментов, но его дни подходят к концу. До сих пор новые технологии появлялись всегда вовремя, чтобы поддержать экспоненциальный рост вычислительной мощности по расписанию, но это не стоит воспринимать как данность. Быть может, следующий скачок окажется очень сложным и на его подготовку уйдет 50 лет. Или он вообще никогда не случится, хотя мы всегда можем повысить мощность за счет параллельного использования дополнительных чипов. Расписание — это интересный вопрос, но он меркнет в сравнении с размышлениями о пункте назначения.
Теперь рассмотрим слово «мыслить». Мыслящие машины есть давно — это мы сами. Биологические мозги думают уже миллионы лет. Мозг подчиняется законам физики, которые представляют собой механический набор уравнений. В принципе, хороший физический симулятор мог бы, хоть и очень медленно, смоделировать мозг и его окружение. Этот виртуальный мозг определенно был бы мыслящей машиной.
Остается только один вопрос: сколько нужно физики, чтобы такая симуляция заработала? Классической физики, электродинамики и химии хватит? Потребуется ли квантовая логика (или какая-то еще)? Консенсус однозначно на стороне представления о том, что классической физики окажется достаточно (идея про «Новый ум короля»[116] была отвергнута). Поэтому я думаю о своем мозге и теле как о гигантской машине, составленной из октильона молекул: много-много магнитных деталей детского конструктора, поведение которых хорошо известно и может быть смоделировано. Есть веские причины полагать, что статистическая аппроксимация физики даст такие же результаты. Но опять же это относится только к расписанию, а не к пункту назначения. Важный вопрос: как на основе такой сложной машины возникают мышление и сознание? Есть некая конструкция, некий мост, ведущий от цифрового и виртуального к аналоговому, органическому и реальному?
Тут мы сталкиваемся с объединением человеческого и компьютерного субстратов. Смартфоны быстро становятся неотделимой частью нас самих. Истеблишмент всегда с подозрением относится к новым способам коммуникации, но эти средства расширения нас самих распространяются очень стремительно. Много чернил ушло на описание близящихся конфликтов между человеком и компьютером, от экономического апокалипсиса с потерей рабочих мест из-за автоматизации до военной антиутопии, кишащей дронами. Вместо всего этого я вижу развитие симбиоза. И ведь на протяжении всей нашей истории, когда начинался новый этап эволюции, будь то появление эукариотических клеток, или многоклеточных организмов, или мозга, старые системы сохранялись, а новые начинали работать вместе с ними, а не вместо них.
Это повод для оптимизма. Если цифровые компьютеры — альтернативный субстрат для мышления и сознания, а цифровая технология развивается экспоненциально, тогда мы стоим на пороге взрывного развития мышления и сознания. Мы можем оседлать эту волну, но сначала нужно принять машину как часть себя, отринуть гордыню и признать нашу общую сущность. В принципе, нам надо бы встречать перемены с любовью, а не со страхом. Полагаю, у нас получится.
Смена представления о собственном «я» в распределенном мире
