Мы видим связь между шестнадцатилетним юношей, мечтавшим о полете на луче света, и нашей мечтой, которую мы планируем превратить в реальность, о полете на нашем собственном луче света к звездам. Мы стоим на пороге новой эры. Освоение человеком других планет – больше не область научной фантастики. Человеческая раса существует как отдельный вид около 2 миллионов лет. Цивилизация зародилась примерно 10 000 лет назад, и темпы ее развития неуклонно ускоряются. Если человечество просуществует еще миллион лет, его будущее – в дерзновенном открытии неведомого.
Я надеюсь на лучшее. Должен надеяться. Другого пути у нас нет.
9
Превзойдет ли нас искусственный интеллект?
Интеллект – главное, что определяет человека как существо. Все, что предлагает цивилизация, – продукт интеллектуальной деятельности человека.
ДНК передает жизненную программу от поколения к поколению. Более сложные жизненные формы получают информацию от сенсоров, таких как глаза и уши, и обрабатывают ее в мозге или иных системах, чтобы понять, как действовать, а затем воздействуют на окружающий мир, передавая информацию, например мышцам. В какой-то момент нашей космической истории, которая насчитывает 13,8 миллиарда лет, произошло нечто поразительное. Обработка информации стала настолько разумной, что у жизненных форм сформировалось сознание. Наша Вселенная очнулась и стала осознавать саму себя. Я считаю поистине триумфом то, что мы – не более чем звездная пыль – пришли к такому глубокому пониманию Вселенной, в которой живем.
Я не вижу существенной разницы между тем, как действует мозг земляного червя, и тем, как работает компьютер. На мой взгляд, эволюция предполагает, что может не быть качественного различия между мозгом земляного червя и человека. Из этого следует, что компьютер, в принципе, может копировать человеческий интеллект или даже превзойти его. Оказаться разумнее своих предшественников вполне реально. В процессе эволюции мы превзошли по интеллекту человекообразных обезьян, а Эйнштейн оказался умнее своих родителей.
Если компьютеры продолжат подчиняться закону Мура и удваивать быстродействие и объем памяти каждые восемнадцать месяцев, в итоге получится, что в какой-то момент ближайшего столетия они превзойдут человека по интеллектуальным способностям. Когда искусственный интеллект превзойдет человеческий в создании искусственного интеллекта, то есть сможет рекурсивно совершенствовать себя без помощи человека, мы можем стать свидетелями интеллектуального взрыва, который приведет к появлению машин, чье превосходство которых над нами в интеллектуальном смысле будет больше, чем наше – над улитками. Когда это произойдет, придется озаботиться, чтобы цели компьютеров не расходились с нашими целями. Есть искушение отмахнуться от образа высокоинтеллектуальных машин как плода воображения писателей-фантастов, но это будет ошибкой – и, в принципе, нашей самой худшей ошибкой в жизни.
В последние два десятилетия в теме искусственного интеллекта доминировали проблемы, связанные с созданием интеллектуальных агентов – систем, способных к восприятию и действиям в конкретной среде. В данном случае интеллект определяется статистическими и экономическими соображениями рациональности, или, проще говоря, способностью принимать хорошие решения, предлагать планы или делать выводы. В результате можно наблюдать высокую степень интеграции и перекрестного оплодотворения идеями в таких областях, связанных с искусственным интеллектом, как машинное обучение, статистика, теория управления, нейробиология и др. Сложившаяся система теоретических представлений в сочетании с доступными мощностями обработки данных привела к заметным успехам в таких областях, как распознавание речи, классификация образов, машинный перевод, самоуправляемые автомобили, шагающие механизмы, системы диалогового программирования.
По мере того как достижения в этих областях выходят за пределы лабораторий и становятся экономически выгодными технологиями, возникает круг благоразумия, при котором даже небольшие усовершенствования приносят значительные суммы денег, что стимулирует все новые и новые вложения в научные разработки. Сейчас широко признано, что исследования в области искусственного интеллекта демонстрируют устойчивый прогресс и что их влияние на общество соответственно увеличивается. Потенциальная выгода огромна; мы даже не можем представить, какие достижения нас ждут впереди, если наши умственные способности получат подкрепление в виде средств, предоставляемых разработчиками искусственного интеллекта. Появляется возможность покончить с эпидемиями и нищетой. Но в силу огромного потенциала искусственного интеллекта важно исследовать, как наилучшим способом воспользоваться преимуществами и избежать возможных подводных камней. Успех в создании искусственного интеллекта станет величайшим событием в истории человечества.
К сожалению, он может оказаться и последним, если мы не научимся избегать рисков. Искусственный интеллект в качестве инструмента может усилить наши существующие интеллектуальные способности, что позволит продвинуться вперед во всех областях науки и состояния общества. Но он может представлять опасность. Существующие примитивные формы искусственного интеллекта доказали свою полезность, но я опасаюсь последствий создания чего-то такого, что может сравниться с человеком или превзойти его. Есть основания полагать, что искусственный интеллект замкнется сам на себя и начнет ускоренным темпом заниматься самоусовершенствованием. Люди, ограниченные малой скоростью биологической эволюции, не смогут конкурировать с ним и окажутся вытесненными. А еще в будущем искусственный интеллект может обрести собственную волю, которая вступит в конфликт с нашей.
Есть мнение, что люди смогут еще достаточно долгое время контролировать скорость развития технологий и что потенциал искусственного интеллекта поможет решить многие мировые проблемы. Мой оптимизм в отношении судеб человечества хорошо известен, но в данном случае у меня есть сомнения.
Например, военные разных стран мира рассматривают возможность в ближайшей перспективе начать гонку автономных оружейных систем, которые способны сами выбирать и уничтожать выбранные ими цели. Пока в ООН идут дебаты о запрещении такого рода оружия, его сторонники забывают задать себе очень важный вопрос: каков вероятный результат этой гонки и желательна ли она для человечества? Неужели мы действительно хотим, чтобы дешевое оружие с искусственным интеллектом стало «калашниковым» завтрашнего дня и приобреталось на черном рынке преступниками и террористами? Думая о нашей возможности сохранять в долгосрочной перспективе контроль над более совершенными системами искусственного интеллекта, следует ли вооружать их и доверять им нашу защиту? В 2010 году сбой в компьютеризованной системе торгов вызвал обвал на фондовом рынке США; как может выглядеть компьютерный сбой в области обороны? Лучшее время прекратить разработку автономных оружейных систем – сегодня.
В среднесрочной перспективе искусственный интеллект может автоматизировать различные области человеческой деятельности, обеспечив всем равенство и процветание. Заглядывая вперед, можно сказать, что их развитию нет предела. Не существует физических законов, препятствующих частицам организоваться
