наблюдений, ни своих интерпретаций. Мангуста начинает с ложного выпада, который вызывает бросок змеи. Мангуста увертывается и делает еще выпад, так что противники действуют в некотором ритме. Но эта пляска не статическая, а постепенно прогрессирующая. Свои выпады мангуста делает все раньше и раньше по отношению к броскам кобры и, наконец, нападает в тот момент, когда кобра вытянулась во всю длину и не может двигаться быстро. На сей раз мангуста не делает ложного выпада, а точным броском прокусывает мозг змеи и убивает ее.
Другими словами, образ действия змеи сводится к одиночным, не связанным между собой броскам, тогда как мангуста действует с учетом некоторого, хотя и не очень большого отрезка всего прошлого хода сражения. В этом отношении мангуста действует подобно обучающейся машине, и действительная смертоносность ее нападения основана на гораздо более высокой организации нервной системы.
Как видно из шедшего несколько лет тому назад фильма Уолта Диснея, нечто очень похожее происходит, когда одна из наших западных птиц, кукушка-подорожник (road runner), нападает на гремучую змею. Хотя птица сражается клювом и когтями, а мангуста — зубами, их образ действия очень схож. Другой замечательный пример — бой быков. Не нужно забывать, что [c.259] бой быков не спорт, а игра со смертью, в которой обнаруживается красота переплетающихся, взаимосвязанных движений быка и человека. Честность по отношению к быку здесь неуместна, и мы можем оставить без учета предварительное подстрекание и ослабление быка, имеющие целью довести борьбу до той ступени, где полностью проявляется взаимодействие схем движений противников. Искусный тореадор имеет большой запас возможных действий, подобных размахиванию плащом, различным уверткам и пируэтам и т. п., которые должны привести быка в позицию, где он, остановившись после броска вперед, вытянулся во всю длину в то самое мгновение, когда тореадор готов вонзить ему шпагу в сердце.
Сказанное выше о борьбе мангусты с коброй или тореадора с быком можно отнести также к физическим состязаниям человека с человеком. Рассмотрим поединок на рапирах. Он состоит из последовательности обманных движений, парирований и выпадов, причем каждый из противников стремится отвести рапиру другого настолько, чтобы иметь возможность попасть в него, не раскрываясь самому и не подвергая себя ответному удару. Точно так же в теннисном чемпионате не достаточно хорошо подать или отбить мяч в каждом отдельном ударе; стратегия игры состоит в том, чтобы рядом отражений последовательных подач постепенно ухудшить положение противника настолько, что в конце концов ему трудно будет отразить мяч как следует.
И эти физические состязания, и игры такого рода, какие мы предполагали для играющих машин, содержат тот же самый элемент обучения через накопление опыта о навыках противника и о своих собственных. То, что верно относительно игр физического столкновения, верно и относительно состязаний, в которых умственный элемент представлен сильнее, таких, как война и игры, имитирующие войну, посредством которых наши штабные офицеры приобретают военный опыт. Это верно как для классической войны на суше и на море, так и для новой, еще не испытанной войны с атомным оружием. Во всех этих столкновениях можно применить некоторую механизацию, аналогичную механизации шашек при помощи обучающихся машин. [c.260]
Самая большая опасность сейчас — III мировая война. Заслуживает внимания вопрос: в какой мере эта опасность может корениться в неосмотрительном применении обучающихся машин? Много раз я слышал утверждение, что обучающиеся машины не могут подвергнуть нас каким-либо новым опасностям, потому что мы можем выключить их, когда захотим. Но действительно ли можем? Чтобы действительно выключить машину, мы должны получить информацию, что наступило опасное положение. То обстоятельство, что мы создали машину, еще не гарантирует, что мы будем иметь надлежащую информацию для такого вмешательства. Этот вывод уже содержится неявно в утверждении, что шашечная машина может обыграть своего программиста, и притом после очень небольшого времени подлаживания к нему. Кроме того, самое быстродействие современных цифровых машин может воспрепятствовать нам заметить и продумать признаки опасности.
Мысль о нечеловеческих устройствах, наделенных большим могуществом и большой способностью вести свою политику, и об их опасности не имеет в себе ничего нового. Ново лишь то, что теперь мы располагаем эффективными устройствами такого рода. В прошлом подобные возможности постулировались для методов магии и волшебства, составляющих тему множества легенд и народных сказок. В этих сказках тщательно разбирается моральное положение волшебника. Я уже рассматривал некоторые аспекты легендарной этики волшебства в своей предыдущей книге, озаглавленной «Человеческое использование человеческих существ»[185]. Повторю здесь кое-что из сказанного там, чтобы связать это с обучающимися машинами.
Хорошо известна волшебная сказка из стихотворения Гёте «Ученик чародея». В ней чародей оставляет своего ученика и помощника одного, приказав ему принести воды. Ленивый и хитрый юноша поручает эту работу метле, произнеся волшебные слова, слышанные им от учителя. Метла покорно делает за него работу и не [c.261] хочет остановиться. Юноша едва не тонет. Он обнаруживает, что не выучил или забыл второе заклинание, которое должно остановить метлу. В отчаянии хватает он метлу, переламывает ее о колено и к ужасу своему видит, что обе половины продолжают носить воду. К счастью, прежде чем он погиб, возвращается учитель, произносит Властное Слово, останавливающее метлу, и задает порядочный нагоняй ученику.
В «Тысяче и одной ночи» есть сказка о рыбаке и джине. Рыбак вытащил сетью кувшин, запечатанный печатью Соломона. В этот сосуд Соломон заключил мятежного джина. Джин выходит в виде гигантского облака дыма и говорит рыбаку, что в первые годы своего заточения он хотел вознаградить своего спасителя могуществом и богатством, а теперь решил убить его тут же на месте. К счастью для рыбака, ему удается уговорить джина войти опять в бутылку, которую он бросает на дно океана.
Еще страшнее притча об обезьяньей лапе, принадлежащая перу английского писателя начала текущего столетия У.У. Джекобса. Старый, удалившийся на покой английский рабочий сидит за столом с женой и другом, вернувшимся из Индии британским сержантом. Сержант показывает хозяевам талисман в виде высушенной, сморщенной обезьяньей лапы. Один индийский святой человек, хотевший доказать, как безумно искушать судьбу, наделил эту лапу способностью исполнить три желания каждого из трех человек. Солдат говорит, что не знает первых двух желаний первого владельца, но последнее было — смерть. Сам он, объявляет сержант друзьям, второй владелец, но не будет рассказывать о своих страшных переживаниях. Он бросает лапу в огонь, однако его друг спасает лапу и хочет испытать ее силу. Его первое желание — получить 200 фунтов стерлингов. Вскоре раздается стук в дверь, и в комнату входит служащий фирмы, где работает его сын. Отец узнает, что сын убит машиной, но фирма, хотя и отклоняет от себя всякую ответственность, желает предложить отцу вознаграждение в 200 фунтов. Убитый горем, отец называет свое второе желание — чтобы сын вернулся, и когда опять раздается стук в дверь и она открывается, появляется нечто, представляющее собой — об этом много не говорится — призрак [c.262] сына. Последнее желание — чтобы призрак удалился прочь[186].
Суть всех этих историй в том, что волшебные силы выполняют все дословно, и если мы просим у них для себя какой-либо дар, мы должны просить то, что нам действительно желательно, а не то, что нам кажется таковым. Новые и реальные силы обучающейся машины также выполняют указания буквально. Если мы программируем машину на победу в войне, то должны ясно представлять себе, как мы понимаем победу. Обучающаяся машина должна программироваться опытом. Единственный опыт ядерной войны, который не приводит сразу же к катастрофе, — это опыт военной игры. Если мы хотим использовать этот опыт как руководство для нашего поведения в действительном кризисе, то ценности победы, которые мы принимали в играх программирования, должны быть теми самыми ценностями, к которым мы стремились бы в глубине души в действительной войне. Ошибка в этом отношении может означать лишь немедленную, полную и окончательную гибель. Мы не можем рассчитывать на то, что машина будет подражать нам в тех предрассудках и эмоциональных компромиссах, благодаря которым мы позволяем себе называть разрушение победой. Если мы требуем победы и не знаем, что подразумеваем под этим, мы встретимся с призраком, стучащимся к нам в дверь.
На этом расстанемся с обучающимися машинами. Теперь следует сказать кое-что о самораспространяющихся машинах. Здесь важны оба слова: «машина» и «самораспространяющаяся». Машина — не только материальная форма, но и средство для достижения определенных целей. И
