Когда я использовал язык автоматики и роботов, когда я употреблял слово «слепо» по отношению к генетическому программированию — это было попыткой предотвратить подобные ошибки. Но слепы, разумеется, гены, а не запрограммированные ими животные. Нервные системы, как и созданные человеком компьютеры, могут быть достаточно сложны, чтобы демонстрировать разум и способность к предвидению.
Саймонс (Symons, 1979) ясно излагает этот компьютерный миф:
Я хочу указать, что заключение, к которому приходит Докинз, когда употребляет слова «робот» и «слепо», будто эволюционная теория поддерживает детерминизм, абсолютно безосновательно… Робот — это бездумный автомат. Возможно, некоторые животные и являются роботами (у нас нет способа проверить), однако Докинз говорит не о некоторых животных, но обо всех животных, а в данном случае конкретно о людях. Тут уместно перефразировать Стеббинга: «робот» — антоним «разумного существа», или же, в переносном смысле, человек, действующий как будто механически. Но при обычном словоупотреблении не существует такого значения слова «робот», при котором фраза, будто все живые существа — роботы, имела бы смысл (с. 41).
Идея отрывка из Стеббинга, который перефразирует Саймонс, вполне разумна и заключается в том, что X — полезное слово только в том случае, если существуют предметы, которые не являются X. Если все на свете роботы, значит, слово «робот» ничего существенного не означает. Но слово «робот» может вызывать и другие ассоциации, и механическая негибкость — не та ассоциация, которая приходила мне в голову. Робот — это программируемая машина, а важная отличительная черта программирования состоит в том, что оно отделено от выполнения программы и осуществляется заранее. Компьютер запрограммирован вычислять квадратные корни или играть в шахматы. Взаимосвязь между играющим в шахматы компьютером и тем, кто его запрограммировал, неочевидная, что открывает широкие возможности для неправильного истолкования. Можно было бы подумать, что программист следит за развитием партии и дает компьютеру указания перед каждым ходом. На самом деле, однако, программирование заканчивается до того, как начнется игра. Программист пытается предвидеть все случайности и встраивает в программу чрезвычайно сложные указания для различных ситуаций, но как только началась игра — он должен держаться в стороне. Ему не позволяется делать ни малейшего намека компьютеру в ходе игры. В противном случае он уже не программист, а исполнитель, и его вмешательство в турнир должно расцениваться как нарушение. В работе, которую критикует Саймонс, я широко использовал эту аналогию с компьютерными шахматами, для того чтобы пояснить, что гены не контролируют поведение напрямую, вмешиваясь в его ход. Они контролируют поведение только в том смысле, что
Сама по себе эта ассоциация с бездумным и негибким была еще как-то оправдана в те дни, когда высшим достижением автоматизации была система контроля из стержня и пальца в корабельном двигателе, а Киплинг писал «Гимн Мак-Эндрю»:
Но то было в 1893 г., в золотой век пара. Теперь же мы вступаем в эру электроники. Если машины и вызывали когда-либо ассоциации с жестким и бездумным — я признаю, что вызывали, — то самое время это изжить. Уже написаны компьютерные программы, которые могут играть в шахматы на гроссмейстерском уровне (Levy, 1978), беседовать и рассуждать на правильном и грамматически сколь угодно сложном английском (Winograd, 1972), создавать изящные и эстетичные новые доказательства математических теорем (Hofstadter, 1979), сочинять музыку и ставить диагнозы — и нет ни единого признака, что прогресс в этой области замедляется (Evans, 1979). Передовое направление программирования, известное как «искусственный интеллект», вошло в смелую, энергичную стадию (Boden, 1977). Из тех, кто изучал этот вопрос, немногие теперь поставят против того, что в ближайшие десять лет компьютерные программы будут побеждать сильнейших гроссмейстеров. Слово «робот», означающее в массовом сознании двигающегося рывками слабоумного и упрямого зомби, в один прекрасный день может стать синонимом подвижности ума и сообразительности.
К сожалению, я слегка переборщил в упомянутых отрывках своей книги. Я их писал, только что вернувшись с проясняющей взгляд и одновременно умопомрачительной конференции, посвященной состоянию, в котором находится искусство «искусственного интеллекта», и в своем восторге я искренне и невинно забыл, что роботы обычно считаются упрямыми идиотами. Также я должен извиниться за то, что без моего ведома на обложке немецкого издания «Эгоистичного гена» была изображена человеческая кукла, болтающаяся на нитках, выходящих из слова «ген», а на французском издании — мужчины в котелках с ключами, торчащими из их спин, как у заводных игрушек. Я использовал слайды с обеих обложек как иллюстрации того, что я
Итак, можно ответить Саймонсу, что он, конечно же, был прав, критикуя то, что, как он думал, я говорю, но на самом деле, конечно же, я этого не говорил (Ridley, 1980 а). Безусловно, я сам отчасти виноват в изначальном непонимании, но теперь мне остается лишь настаивать, чтобы мы отбросили предрассудки, взятые из повседневной речи («…большинство людей не понимает, что такое компьютеры, ни в малейшей степени», — Weizenbaum, 1976, р.9), и прочитали что-нибудь из потрясающей современной литературы о роботах и компьютерном разуме (напр., Boden, 1977; Evans, 1979; Hofstadter, 1979).
Конечно, философы снова и снова будут утверждать, что поведение компьютеров, запрограммированных быть разумными, в конечном счете детерминировано, но если мы собираемся перейти на философский уровень, то многие будут использовать те же аргументы и применительно к человеческому разуму (Turing, 1950). Что такое мозг, спросят они, как не компьютер, и что такое воспитание и образование, как не разновидность программирования? Трудно дать несверхъестественное объяснение человеческому мозгу и человеческим эмоциям, чувствам и кажущейся свободной воле, если
Когда я оглядываюсь (на эволюцию. — Р. Д.), меня ошеломляет то, как постепенно химия уступала дорогу электронике. Не будет бессмысленностью назвать первых живых существ всецело химическими по своей природе. Хотя электрохимические процессы важны и для рас-тений, организованная электроника, в смысле обработки информации, не появляется в растительном мире. Но примитивная электроника начинает приобретать важность с появлением подвижных созданий… Первые электронные системы, которыми обладали примитивные животные, служили главным образом для ориентировки, наподобие сонара или радара. Переходя к более развитым животным, мы обнаруживаем электронные системы, используемые не только для ориентировки, но и для движения в направлении пищи…
Здесь есть сходство с управляемым снарядом, цель которого перехватить и уничтожить другой снаряд. Точно так же, как в нашем современном мире методы нападения и защиты становятся все более тонкими, это происходило и с животными. А с возрастанием утонченности становятся необходимы все лучшие электронные системы. Можно провести близкую параллель между тем, что происходило в природе, и развитием электроники в современной военной технике… Я нахожу отрезвляющей мысль, что, не пожив по закону джунглей за счет зубов и челюстей, мы не приобрели бы наших умственных способностей, не смогли бы исследовать устройство вселенной или оценить симфонию Бетховена… В свете этого вопрос,
