рассортировать их и упорядочить, как если бы мы строили баррикады только для того, чтобы их разбирать, обеспечивая себя таким образом смыслом и целью жизни. Нелепо, как многое из того, что мы, люди, обычно делаем. Потому думать о машинах — значит думать о людях не совсем как о людях. Что освобождает нас от всех традиций, в которых мы запутались, — от старых представлений о порядке, жизни, счастье.
Семья, дружба, секс, деньги — все может быть другим. Это не единственные ответы на вопрос о свободе человека и о том, как ее создавать и, что еще важнее, как ее ограничивать. Мыслящая машина — это необходимый знак вопроса, стоящий за нашим существованием. Это пропуск — как любая жизнь. Мыслящая машина предлагает нам возможность освободиться от эволюционных, психологических, неврологических домыслов. В совершенно антигуманно гуманистическом смысле, в романтической традиции Э. Т. А. Гофмана, она может стать поэтическим, а следовательно, политическим проектом.
Она может освободить нас от нас.
Безупречный искусственный интеллект — это что-то из области научной фантастики
«Сознательная» или «мыслящая» машина должна вести себя эксцентрично — иногда глупо, а иногда умно. Человеческое «разумное» поведение связано с непредсказуемыми колебаниями между эмоциями и разумом, в этом весь Homo sensus sapiens[127]. Как ни парадоксально звучит, наш вид характеризуется в равной степени (и в случайной пропорции) глупостью и разумностью.
Нам известно, что мы обладаем сознанием, хотя нет какого-то определенного способа это доказать. Наблюдая со стороны, также невозможно проверить, что кто-то или что-то обладает сознанием. Мы только принимаем сигналы — звуки, жесты, выражения — и делаем вывод о наличии такового.
Любая программа или робот может произнести слова: «Я разумен» или «У меня есть сознание», но это не доказательство разумности. В практическом смысле сознание и разум — вещи воспринимаемые и приписываемые. Такое приписывание зависит от нашей эмпатии и критериев антропоморфизма. Мы склонны делать вывод, что другие обладают сознанием, если они действуют, выглядят или (например, в тесте Тьюринга) отвечают на вопросы как мы. Тест Тьюринга — это социальный эксперимент, он демонстрирует, как мы воспринимаем машину и приписываем ей разумность, но не доказывает, что машина мыслит. Это социальная игра, в которую мы играем каждый день. «Мыслящая машина» на самом деле — машина социальная, а не функционирующий, но изолированный разум.
Идея создания одной-единственной разумной машины, которая разрешит все тайны реальности посредством безупречной логики и произведет на свет новый вид, — это что-то из области научной фантастики. Идея сингулярности — не горизонт событий, а бесконечный труд.
Человеческий разум устойчив, потому что его поддерживают децентрализованные сети других разумов и знаний. Когда мы растем, мы постепенно входим в них, используя язык и понятия, которые не согласуются с безупречной логикой; затем, направляя и исследуя эти сети, мы становимся устойчивыми разумами; наконец, мы выходим из этих сетей, когда теряем определенные способности мозга, например в результате болезни Альцгеймера. Мы никогда не бываем полностью внутри или снаружи сетей человеческих знаний — это аналоговый процесс. В его рамках словам и понятиям свойственна неоднозначность. Логика и безупречность характерны только для искусственных языков — математики, геометрии, программного кода, которые мы не можем использовать для общения в обычной жизни. Несовершенство и неоднозначность определяют человеческое мышление; вот почему даже в научной фантастике люди обычно находят неожиданные способы обойти логику машин. Следовательно, возможность появления искусственного сверхразума походит на научную фантастику: нам никогда не собрать всех знаний в мире, значит, мы не сумеем передать их машине. Мы можем научить ее получать знания, но это бесконечный процесс. Впрочем, нельзя сказать, что в искусственном интеллекте нет смысла. Мы пока не до конца понимаем, как работают мозг и разум, и в интеллекте и думающих машинах сейчас больше смысла, чем когда-либо. Мы можем решать практические задачи, симулируя определенные элементы разума посредством машинного обучения и глубинного обучения. Как раз такими вещами на данный момент занимаются искусственные экспертные системы. Но это не означает, что мы создаем настоящие интеллекты: симуляция разума чем-то напоминает производство эрзац-мяса для веганов посредством переработки растительного сырья. Та же симуляция: на вкус как мясо, но не мясо.
Мы также можем попытаться создать настоящее мясо, а не имитировать его, к примеру клонируя клетки коров. Вряд ли клонированное мясо и реплицированный разум изменят общество, потому что у нас все равно останутся оригиналы, но эти новшества выведут нас на следующий уровень понимания. В итоге попытки понять — или симулировать, или создать — разумы будут актуальны, если они помогут нам мирно сосуществовать. Нам хорошо известно, что религия, обостренные амбиции и нетерпимость приводят к социальным трагедиям, потому что мешают нам достичь тонкого равновесия между эмоциями и разумом. Во многих странах мы приближаемся к границе между миром и варварством, но искусственный интеллект позволит нам интегрировать все, что мы знаем, и все, что нам нужно, чтобы достичь мирного сосуществования и баланса между органическими машинами, которыми мы являемся, и
