Вопрос. Это обострит проблему, которая уже существует. Где же решение?
Ответ. Ответ гласит: мы больше не можем [c.323] оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека.
В этом суть. Вся уйма работы, для которой мы сейчас используем людей, — это работа, в действительности делаемая лучше машинами. Ведь уже давно человеческая энергия стоит немного, поскольку речь идет о физической энергии. Сегодня человек, пожалуй, не смог бы произвести столько энергии, чтобы купить пищу для своего собственного тела.
Реальная коммерческая стоимость его услуг в условиях современной культуры недостаточна. Если мы оцениваем людей, мы не можем оценивать их на этой основе. Если мы настаиваем на применении машин повсюду, безотносительно к людям, но не переходим к самым фундаментальным рассмотрениям и не даем человеческим существам надлежащего места в мире, мы погибли.
Вопрос. Уже поздно остановить это движение ко все большей и большей автоматизации?
Ответ. То, что сделано, непоправимо. Я предвидел это в самом начале. Здесь налицо не просто факт, что используются вычислительные машины. Настоящую трудность представляет факт, что они стоят наготове для применения.
Иными словами, причина, по которой нам нельзя идти назад, заключена в том, что нам никогда не удастся уничтожить возможность использования вычислительных машин.
Вопрос. Вы считаете это необратимой тенденцией?
Ответ. Я не говорю даже о тенденции. Это необратимое приращение знания. Такое случилось с Адамом и Евой, когда они повстречались со змеем. Коль скоро вы вкусили от древа познания, вы вряд ли сможете сделать другое, чем идти дальше с этим знанием.
Вопрос. Итак, можно ожидать, что машины будут играть все большую роль в автоматизации, в бизнесе, в образовании…
Ответ. Можно. И во всяком случае, используем ли мы машины или нет (решение, которое мы так или иначе должны принять), тот факт, что они имеются налицо для использования, нельзя отбросить.
Вопрос. Вы хотите сказать, что более мудрым [c.324] решением был бы, возможно, отказ от использования некоторых машин?
Ответ. В определенных ситуациях это может оказаться более мудрым. Приведу вам пример. Сейчас с автоматизацией совсем нетрудно построить фабрику, способную произвести больше, чем может потребить весь рынок. Если вы беретесь за дело и лишь толкаете производство вверх, вы можете упереться в потолок. Конкуренция, как она понималась в прошлом, существенно изменяется при наличии автоматизации. Автоматизация больше несовместима с laissez faire[213].
Вопрос. Если в ближайшее десятилетие разовьется новая техника такого типа, на который Вы намекали, как можно задержать дальнейшую автоматизацию?
Ответ. Прогресс задерживали в прошлом не раз. Совсем не обязательно, если мы делаем новое оружие, немедленно пускать его в ход.
Вопрос. Вы нашли во время Вашей последней поездки в Россию, что Советы придают большое значение вычислительной машине?
Ответ. Я скажу вам, насколько большое. У них есть институт в Москве. У них есть институт в Киеве. У них есть институт в Ленинграде. У них есть институт в Ереване в Армении, в Тифлисе, в Самарканде, в Ташкенте и Новосибирске. У них могут быть и другие.
Вопрос. Используют ли они эту область науки полностью, если сравнить с нами?
Ответ. Общее мнение — и оно идет от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадежно, а немного. Они впереди нас в разработке теория автоматизации.
Вопрос. Д-р Винер, необходимо ли сегодня использование вычислительных машин для военных решений?
Ответ. Да, и они могут быть использованы весьма неразумно. Я не сомневаюсь, что проблема того, когда нажать «большую кнопку», трактуется сейчас с точки зрения обучающихся машин. Я был бы очень удивлен, если бы дело обстояло иначе, ведь это ходовые идеи. Вы знаете: «Пусть делает Железный Майк!»
Но давайте рассмотрим это чуть поподробнее. Как [c.325] учатся солдаты своему ремеслу? Посредством военных игр. Веками они упражнялись в играх на карте. Прекрасно! Если вы располагаете некоторым формальным критерием, определяющим, что значит выиграть войну, вы можете заниматься такими играми. Но вам не мешало бы удостовериться, что ваш критерий есть то, что вы действительно хотите, а не некая формализация желаемого. В противном случае вы можете создать вычислительную машину для ядерной войны, которая все разрушит.
Вопрос. Как можно программировать вычислительную машину для ядерной войны, если Вы никогда не имели настоящего опыта подобной войны?
Ответ. Совершенно нельзя. Но тем не менее это сейчас пытаются делать. Экспертов по атомной войне нет. Эксперт — это человек, обладающий опытом. Такого человека сегодня мы не имеем. Поэтому программирование военных игр на основании искусственных критериев успеха в высшей степени опасно и может кончиться плохо.
Вопрос. Существует ли тенденция к программированию такого рода?
Ответ. Тенденция в этом направлении существует, и эта глупость верхов меня поражает. Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить.
Мы слышали речи, что нам нужно создать машинные системы, которые скажут нам, когда нажать кнопку. Но нам нужны системы, которые скажут нам, что случится, если мы будем нажимать кнопку в самых разных обстоятельствах, и — главное — скажут нам, когда не нажимать кнопки!
Вопрос. Как Вы думаете, возможно ли для машин объявить войну и обречь все человечество?
Ответ. Если мы позволим им. Разумеется, они не объявят войны, если мы заранее не настроим их на это.
Вопрос. Д-р Винер, не изменяет ли человек окружающую среду свыше своей способности приспособления к ней?
Ответ. Это вопрос № 1. Человек, несомненно, изменяет ее чрезвычайно сильно, а делает ли он это свыше своей способности, мы узнаем довольно скоро. Или не узнаем — нас больше не будет. [c.326]
