иллюзорной жизни и субъективного удовольствия; сознательно выбирать такой путь — подлость.
Тридцать лет назад философ Роберт Нозик использовал сходную идею для того, чтобы отличить то, что обладает предельной ценностью. У него это получило название «Машина опыта».[26] Идея Нозика состоит в следующем: предположим, что вы могли сознательно выбрать, как делает это Сайфер в «Матрице», чтобы вас подключили к машине, которая дала бы вам опыт, благодаря переживанию которого вы бы имели друзей, славу, здоровье, хорошую внешность, успех и все что угодно, что делает вас счастливым. После подключения вы забудете о своей прошлой жизни, и вас уже никогда не отключат от машины. Выбрали бы вы в этом случае подключение к Машине опыта?
Нозик утверждает, что не выбрали, если б подумали об этом серьезно. Вы не хотите просто
Когда я завожу разговор о Машине опыта Нозика со своими студентами на занятиях по философии, результат всегда один и тот же: большинство из них соглашаются с Нозиком, обдумав его идею как следует, однако небольшая группа студентов настаивает на том, что сделала бы тот же выбор, который делает Сайфер в «Матрице», и подключилась бы к Машине опыта. (Я никогда не спрашиваю этих студентов, неужели их жизнь совсем не дорога им. Это было бы невежливо с моей стороны.) Впрочем, думаю, можно с уверенностью сказать, что большинство людей согласится с утверждением Нозика. Следовательно, вопрос Морфеуса о том, что есть «реально», действительно имеет значение, и это показывает, что споры между реалистами и идеалистами на почве философии связаны с одним из ключевых вопросов бытия.
Роберт Сойер
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, НАУЧНАЯ ФАНТАСТИКА И «МАТРИЦА»
Большинству поклонников научной фантастики знаком фильм Роберта Уайза «День, когда Земля остановилась» («The Day the Earth Stood Still»), снятый в 1951 году. В фильме показывают Клаату, инопланетного гуманоида, прилетающего в Вашингтон, округ Колумбия, в сопровождении гигантского робота по имени Горт. И звучит знаменитая инструкция роботу: «Клаату Борада Никто».
Немногим известен короткий рассказ, на основе которого был снят этот фильм. Рассказ называется «Прощай, хозяин» («Farewell to the Master»). Его написал Гарри Бейтс в 1941 году.
И в фильме, и в рассказе люди убивают Клаату, несмотря на принесенное им мирное послание. В рассказе робот, которого зовут Гнут, а не Горт, как в фильме, приходит дежурить рядом с телом Клаату.
Клифф, журналист, от лица которого ведется повествование, сравнивает робота с верной собакой, не отходящей от тела мертвого хозяина. Гнуту удается воскресить своего хозяина-инопланетянина, и Клифф говорит роботу: «Я хочу, чтобы ты сказал своему хозяину… что случившееся… было инцидентом, о котором вся Земля бесконечно сожалеет».
И в этот момент робот смотрит на Клиффа и приводит его в полнейшее изумление, очень мягко так заявляя: «Ты ошибаешься. Хозяин — я».
Такова одна из ранних научно-фантастических историй об искусственном интеллекте, в этом случае о перемещаемом ИИ, заключенном в механическое тело. Однако она предсказывает сложные взаимоотношения, которые могут сложиться у биологических существ с созданными ими на основе кремния механизмами.
Действительно, слово «робот» впервые появилось в научной фантастике, когда чешский писатель Карел Чапек сочинил в 1920 году пьесу «Рур» — о заводе универсальных… Россума. Но
И в самом деле, идея роботов, используемых в качестве рабов, настолько укоренилась в общественном сознании благодаря научной фантастике, что мы даже не задумываемся об этом. Люк Скайуокер изображен в фильме «Звездные войны: Новая надежда» (1977) абсолютно добродетельным героем, но вспомните, что он делает, когда мы впервые встречаемся с ним? Вот-вот — покупает рабов! Он приобретает у Джаваса двух думающих, чувствующих существ — R2-D2 и С-ЗРО. И что он делает с ними в первую очередь? Надевает на них оковы! Он затягивает на них ограничивающие движение болты, чтобы они не пытались бежать, и С-ЗРО все время должен называть Люка «Хозяином».
А когда Люк и Оби-Ван Кеноби приходят в бар «Мое Айсли», что говорит бармен о двух дроидах? «Мы здесь не обслуживаем этих». Всего лишь несколькими годами раньше афроамериканцам приходилось слышать подобные слова от белых на юге Соединенных Штатов. И это было обычным делом.
И в то же время ни один из предположительно доблестных героев «Звездных войн» ничуть не возражает против такого обращения с роботами, а в конце, когда все «органические» герои получают медали за отвагу, С-ЗРО и R2-D2 оттеснены на задворки и остаются без всяких наград. Роботы — это рабы!
Сейчас любой, кто знает хотя бы что-нибудь об отношениях, складывающихся между научной фантастикой и ИИ, вспомнит о рассказах Айзека Азимова. Эта серия рассказов о роботах начата Азимовым в 1940 году рассказом «Робби», в котором он впервые сформулировал знаменитые «три закона робототехники». Но позвольте мне остановиться на одном из поздних его рассказов, посвященных роботам, — на рассказе «Робот, который видел сны» 198бгода.[27]
В этом рассказе прославленный азимовский «робопсихолог», доктор Сьюзен Келвин, появляется в