Глаз разума

В: Сложите 34957 и 70764.

О: (После паузы секунд в тридцать) 105621.

В: Вы играете в шахматы?

О: Да.

В: Мой король стоит на e1; других фигур у меня нет. Ваш король на e3, а ладья на a8. Ваш ход. Как вы пойдете?

О: (Подумав секунд пятнадцать): Ла1, мат.

Метод вопросов и ответов позволяет затронуть любую область человеческой деятельности, которую мы пожелаем включить. Мы не хотим наказывать машину за ее неспособность блистать на конкурсах красоты, или человека за то, что он не может соревноваться в быстроте с самолетом. Условия нашей игры делают подобное неравенство неважным. Играющие могут хвастаться, если сочтут это нужным, расхваливая собственную красоту, силу или героизм, но экзаменатор не может потребовать у них практического подтверждения.

Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины. Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее. Его сразу выдала бы медлительность и неаккуратность в арифметике. Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить.

Возможно, что в процессе игры лучшей стратегией машины вовсе не является рабская имитация человеческого поведения. Однако мне не кажется, что это окажет значительное влияние на исход игры. Так или иначе, мы не собираемся здесь изучать теорию данной игры; мы предполагаем, что наилучшей стратегией являются естественные ответы, которые дал бы человек.

Машины, участвующие в игре

Поставленный нами вопрос останется неопределенным, пока мы не поясним, что имеется в виду под “машиной”. Естественно, что мы допускаем в ней использование любой инженерной технологии. Мы допускаем и возможность того, что инженер или группа инженеров сконструируют машину, принцип действия которой они сами не смогут удовлетворительно объяснить, поскольку применяли в основном экспериментальный метод. Мы исключаем из класса машин людей, рожденных обычным способом. Трудно сформулировать определение, удовлетворяющее все три условия. Например, можно потребовать, чтобы все инженеры в команде были одного пола, но это условие не будет удовлетворительным, так как в принципе возможно создать полноценного индивида из единственной клетки кожи, взятой, скажем, у мужчины. Это было бы огромным достижением биологической техники, достойным наивысших похвал — но вряд ли это можно было бы назвать “конструированием думающей машины”. Следовательно, нам придется отказаться от того условия, что любая техника разрешена. Мы готовы на это еще и потому, что сегодняшний интерес к “думающим машинам” вызван определенным типом машины, обычно именуемым “электронным компьютером” или “цифровым компьютером”. В соответствии с этим предположением, мы допустим к нашей игре лишь цифровые компьютеры....

Цифровые компьютеры имеют особое свойство: они могут имитировать любую дискретную машину; поэтому они зовутся универсальными машинами. Существование машин с подобным свойством имеет важное следствие — чтобы выполнять разнообразные вычислительные операции, нет необходимости создавать множество новых машин (если, конечно, не принимать в расчет соображений скорости). Любая операция может быть выполнена одним и тем же компьютером, запрограммированным соответственно. Мы увидим, что вследствие этого все цифровые компьютеры в каком-то смысле эквивалентны.

Противоположный взгляд на основной вопрос

Теперь, когда почва подготовлена, мы приступаем к обсуждению нашего основного вопроса: “Способны ли машины думать?”

…Мы не можем совсем отбросить первоначальную форму проблемы, поскольку мнения о правомочности замены могут разниться, и мы обязаны хотя бы выслушать то, что может быть сказано в связи с этим.

Для читателей будет проще, если я сначала изложу собственное мнение. Рассмотрим сначала наиболее аккуратную форму вопроса. Я считаю, что лет через пятьдесят удастся запрограммировать компьютеры с памятью примерно в 10⁹ так, что они смогут играть в игру-имитацию настолько успешно, что обычный экзаменатор после пяти минут опроса будет иметь не более чем 70% шансов на верную идентификацию. Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать. Тем не менее, я верю, что к концу столетия словоупотребление и общественное мнение среди образованных людей изменятся настолько, что разговоры о мыслящих машинах не вызовут протеста. Далее, я считаю, что сокрытие подобных взглядов не может принести никакой пользы. Многие ошибочно полагают, что ученые движутся от одного проверенного факта к следующему и никогда не попадают под влияние непроверенных гипотез. Если четко разграничивать установленные факты и гипотезы, никакого вреда от последних нет. Гипотезы чрезвычайно важны, так как они указывают на новые пути исследований.

Далее я рассмотрю мнения, противоположные моему.

1. Теологический аргумент. Мышление есть функция бессмертной души человека. Бог дал бессмертную душу всем мужчинам и женщинам, но не животным и не машинам, и посему ни одно животное и ни одна машина не способна думать.

Я не могу согласиться ни с чем из вышесказанного, но попытаюсь ответить в терминах теологии.

Я посчитал бы этот аргумент более убедительным, если бы животные были классифицированы вместе с людьми, ибо мне кажется, что между живой и неживой материей разница гораздо больше, нежели между человеком и животным. Произвольный характер ортодоксальных взглядов становится яснее, если взглянуть на них с точки зрения представителя иной религии. Что думают христиане о мусульманском убеждении, что женщины лишены души? Но давайте оставим это в стороне и вернемся к основному возражению. Мне кажется, что из приведенного выше аргумента вытекает серьезное ограничение всемогущества Господа. Мы признаем, что существуют некие вещи, на которые неспособен даже Всемогущий — например, сделать единицу равной двум — но должны ли мы верить, что Господь не волен дать душу слону, если Он этого пожелает? Мы могли бы ожидать, что вместе с душой Бог дарует слону и улучшенный мозг, способный соответствовать нуждам этой души. Точно такой же аргумент приложим и к машинам. Он может казаться иным, так как его труднее “переварить”. Но это всего лишь означает, что нам кажется менее вероятным, что Бог посчитает обстоятельства подходящими, чтобы даровать душу. Остаток этой статьи посвящен обсуждению данных обстоятельств. Пытаясь сконструировать подобные машины, мы не должны бесцеремонно узурпировать Его власть даровать души, подобно тому, как мы не делаем этого, производя на свет детей. В обоих случаях мы являемся скорее Его инструментами, создавая вместилища для созданных Им душ.

Тем не менее, все это не более чем домыслы. Меня не впечатляют теологические аргументы, какую бы гипотезу они ни поддерживали. В прошлом подобные аргументы были не раз сочтены неудовлетворительными. Во времена Галилея теологи говорили, что тексты “И солнце застыло на небе… и не торопилось спускаться в протяжение целого дня” (Иисус х. 13) и “Он заложил основы земли, и не шелохнутся они во веки веков” (Псалмы, 5) являются адекватным опровержением теории Коперника. С точки зрения современных знаний подобная аргументация выглядит несерьезной. Когда достаточных знаний у людей еще не было, эти аргументы производили совершенно иное впечатление.

2. Аргумент “голова в песке”. “Последствия машинного мышления были бы слишком ужасны. Давайте же надеяться, что машины ни на что подобное не способны.”