Стремясь к более высокому интеллекту, не снизим ли мы на генетическом уровне нашу способность к состраданию или врожденную потребность в формировании социальных связей? Как может измениться человеческий вид в долгосрочной перспективе? Те качества, которые нас создали, — любознательность, интеллект, сострадание и умение сотрудничать, возникающие вследствие нашей потребности в социальных связях, — требуют сложной комбинации генов. Можем ли мы их получить посредством искусственного генетического отбора? Можем ли мы их потерять? Эти проблемы, вероятно, не остановят некоторых ученых, решивших использовать искусственный отбор. Какими же будут наши внуки?
Очень полезные хитрости
В дискуссиях по поводу искусственного интеллекта недостаточно внимания уделяется интеллекту человеческому. ИИ объявляют либо нашим спасением, либо проклятием, что явно демонстрирует бессмысленность таких споров.
Прорывные технологии начинают появляться по экспоненте, это означает, что первые удвоения могут казаться несущественными, поскольку их общее число невелико. Потом наступает революция, когда экспонента взрывается, а вместе с ней — преувеличенные обещания и предостережения, но это прямая экстраполяция очевидных наблюдений за графиком в логарифмическом масштабе. Примерно в тот же момент начинают действовать пределы роста, экспонента переходит в сигмоиду, а предельные надежды и страхи исчезают. Именно это мы с нашим искусственным интеллектом сейчас и переживаем. Размеры баз данных распространенных понятий, по которым можно проводить поиск, или число уровней инференции, которые можно обучить, или размерность векторов характеристик, которые можно классифицировать, — во всех этих областях был достигнут значительный прогресс, который любому, кто за ним не следил, показался бы дискретным.
Важное наблюдение: в дискуссии ни с одной из сторон не участвуют те, кому принадлежит наиболее значительный вклад в этот прогресс. Такие достижения, как теория случайных матриц для сжатого восприятия, конвексная релаксация эвристической функции для трудноразрешимых задач и базовые методы аппроксимации функций высокой размерности фундаментальным образом меняют наше понимание того, что значит «понимать» что-либо. Оценка искусственного интеллекта давно уже стала задачей о развивающихся целевых показателях. Научить его играть в шахматы удалось благодаря оценке и анализу большего числа ходов, играть в Jeopardy! — благодаря хранению большего числа фактов, переводить естественные языки — благодаря накоплению большего числа примеров. Эти достижения наводят на мысль: возможно, секрет искусственного интеллекта заключается в том, что никакого секрета нет. Как многое другое в биологии, разум, похоже, является набором очень полезных хитростей. Думать, что сознание — исключительная особенность нашего вида, значит проявлять неуместную гордыню, особенно если учесть растущие объемы эмпирических данных, полученных в ходе исследования поведения и познавательных способностей животных. Эти данные говорят о том, что самосознание — продукт эволюции и может проявляться у других видов. Нет причин для того, чтобы придерживаться механистического объяснения поведения других форм жизни, объявляя одну из них неприкосновенной и закрытой для обсуждения.
Мы уже давно вступили в симбиоз с машинами в плане мыслительной деятельности; мои исследовательские возможности опираются на инструменты, которые помогают мне воспринимать, запоминать, осмысливать и передавать информацию. Спрашивать, разумны ли они, настолько же уместно, как спрашивать, откуда я знаю, что существую, — это интересно с философской точки зрения, но эмпирически не проверяемо.
Спрашивать, опасны ли они, разумно; впрочем, это относится к любой технологии. Ни паровозы и порох, ни ядерная энергетика и биотехнологии не означали для нас немедленной гибели или спасения. В каждом случае спасение заключалось в деталях, куда более интересных, чем банальные и упрощенные аргументы за или против. Только игнорируя историю искусственного интеллекта, да и всего остального, можно предполагать, что в этот раз все будет иначе.
Airbus 320 и орел
Чем больше мы узнаем о познании, тем больше появляется аргументов в пользу того, что человеческое мышление — это центр сцепления нескольких факторов, эмерджентное свойство взаимодействия человеческого тела, человеческих эмоций, культуры и специализированных возможностей мозга в целом. Одной из величайших ошибок западной философии было то, что все клюнули на картезианский дуализм, сформулированный в известном утверждении:
