делом очень серьезным. Поразмыслите над следующим вопросом: будет ли через тысячу лет Homo sapiens (а) доминирующей разумной силой на Земле или (б) историей, биологическим видом, породившим интеллект?
Ответ «а» мне кажется маловероятным. Но если произойдет «б», плохо ли это?
Все мы знаем, насколько порочны люди. Насколько алчны, иррациональны и ограничены в способности действовать сообща для общего блага. Есть опасность того, что мы уничтожим планету. Кто-нибудь в здравом уме захочет, чтобы человечество было последним словом эволюции?
Все зависит от того, как пройдет переход. Власть меняется разными способами. Например, путем насильственного уничтожения — предположительно, это мы проделали с неандертальцами. Есть много сценариев, согласно которым сверхразум так же поступит с нами.
Но эти сценарии игнорируют ключевой факт об интеллекте. Он не достигает полной силы в малых системах.
Каждая новая связь и каждый новый ресурс помогают увеличить его мощь. Отдельный человек может быть умен, но сообщество будет еще умнее. У вас потрясающий сайт, но Google связывает его с миллионом других сайтов, и — о чудо! — все знания человечества оказываются в вашем распоряжении.
Если так рассуждать, разумные машины будущего не станут уничтожать людей. Вместо этого они по максимуму используют наши уникальные способности. Будущее за все большим смешением качеств человека и машины. Я бы пошел по такому пути. Он — лучший из возможных.
Отдельные его участки будут славными. Какие-то — неприятными. Возможно, некоторым людям не понравится, если некий гибридный убер-интеллект попросит их произвести на свет генетически модифицированного потомка, чтобы повысить его творческие способности и снизить агрессивность, улучшив еще ряд характеристик с помощью основанных на кремнии имплантатов. Но не исключено, что красивая 3D-модель будущего потомка их убедит, и они с радостью согласятся. Может быть, люди станут с ностальгией вспоминать, как когда-то они сами располагали своим временем и имели право просто так полистать интересную книжку. Но поразительный рост знания и воображения, доступный каждому, будет достойной заменой. Одно мы знаем наверняка: наша особая роль во все более умопомрачительной общей картине постепенно сойдет на нет. Но к тому времени нам может и не быть до этого дела.
Нечто подобное, кстати, уже происходит. Я просыпаюсь утром, завариваю чай, а затем перемещаюсь к компьютеру, который взывает ко мне. Я открываю его и мгновенно соединяюсь со 100 миллионами других разумов и машин по всему миру. Затем я 45 минут отвечаю на его заманчивые приглашения. Я инициирую этот процесс по собственной воле. Но потом я отдаю большую часть воли машине. Вы делаете то же самое. Мы вместе полубессознательно создаем разум улья, мощь которого намного превосходит все, что видела эта планета, — и намного уступает всему, что она скоро увидит.
«Мы против машин» — ошибочное умопостроение. Есть только одна машина, которая имеет значение. Нравится нам это или нет, но все мы — и мы сами, и наши компьютеры — становимся частью целого: громадного распределенного мозга. Когда-то у нас были нейроны. Теперь нейронами становимся мы.
Глобальный искусственный интеллект уже здесь
Глобальный искусственный интеллект (ГИИ) уже родился. Его глаза и уши — это цифровые устройства, окружающие нас со всех сторон: кредитки, картографические спутники, мобильные телефоны и, конечно, миллиарды пользователей интернета. Центр мозга ГИИ сейчас больше похож на червя — узлы, которые объединяют часть рецепторов и часть эффекторов, но целое еще далеко от того, чтобы называться координированным интеллектом.
Уже сейчас многие страны используют эти зачатки нервной системы, чтобы влиять на политическое поведение людей и формировать национальное согласие: «Великий китайский файрвол», его потомки в Иране и в России и, конечно, обе крупнейшие политические партии в Соединенных Штатах. Национальные разведывательные службы и министерства обороны формируют более тихую, потаенную часть ГИИ, но именно они контролируют клыки и когти, хотя и ведут себя тихо. Более заметно то, как компании начинают использовать эту новорожденную нервную систему для формирования потребительского поведения и повышения доходности.
Хотя ГИИ едва появился на свет, корни у него очень древние. Фундаментальные алгоритмы и программы зарождающегося ГИИ были созданы древними политическими, юридическими и религиозными объединениями. Это естественная эволюция, потому что создание закона — по сути, просто написание алгоритма, а бюрократическая система управления — процесс, выполняющий программу закона. Совсем недавно новички вроде торговцев, общественных активистов и даже инженеров, осмелились внести свою лепту в ГИИ. В результате все эти законы и программы оказались существенно улучшены по сравнению с тем видом, в котором они пребывали со времен Хаммурапи, но мы все еще страдаем от недостатка единства, прозрачности и
