Я не очень хорошо разбираюсь в том, как работают современные машины. Я не думаю, что они вообще что-то делают в том значении, какое Джеймс вкладывал в произвольное действие. Сомневаюсь, что они обдумывают возможные варианты будущего, оценивают и выбирают какие-то из них, хотя это и описывает — для одной, очень простой, задачи — то, что делают шахматные компьютеры. Наши нынешние машины ограничены доступным пространством и размером счетов за электричество, но они изначально не являются творениями, основанными на ограничениях, со множеством конкурирующих целей и вечной нехваткой энергетических ресурсов. Наши нынешние машины не социальны: они не конкурируют и не сотрудничают друг с другом или с людьми, они не рассказывают историй и не пытаются никого ни в чем убедить.
Еще меньше я знаю о том, что машины когда-нибудь научатся делать. Я, однако, полагаю, что можно построить машину со следующими параметрами:
• она обдумывает и оценивает варианты будущего;
• основываясь на этой оценке, она делает выбор между конкурирующими целями и действиями;
• ее ресурсы ограничены, поэтому ей приходится воздерживаться от детальной обработки некоторых целей, действий и вариантов, следовательно, она использует упрощенные схемы обработки;
• она социальна, то есть конкурирует и сотрудничает с другими машинами или людьми, она рассказывает истории и пытается кого-то в чем-то убедить.
Появление такой машины стало бы основанием для обсуждения вопросов о ее гражданских правах, чувствах, а также о том, является ли она источником опасности или великой надежды.
Denkraumverlust
У человеческого разума есть склонность путать вещи и их образы. Для этой склонности даже есть слово — Denkraumverlust, впервые использованное историком Аби Варбургом (1866–1929) и в буквальном переводе означающее «потеря мысленного пространства». Отчасти привлекательность мыслящих машин состоит в том, что они с такой проблемой не столкнутся, будучи более логичными, чем мы. С другой стороны, они вряд ли придумают слово или термин наподобие Denkraumverlust. Поэтому то, что мы думаем о мыслящих машинах, зависит от подразумеваемого типа мышления, а также от того, что мы имеем в виду, когда говорим «машина». В отношении мыслящих машин мы путаем признак — или репрезентацию — мышления с самим предметом. И если мы исходим из того, что машина — это нечто, произведенное людьми, то мы недооцениваем степень, в которой машины производят нас, как и тот факт, что мышление возникло давным-давно в результате этого взаимодействия и на самом деле ни одной из сторон не принадлежит (представление о том, что вообще есть отдельные стороны, также может быть ошибочным).
Denkraumverlust поможет нам понять не только положительный вывод некоторых экспертов при прохождении теста Тьюринга российско-украинской компьютерной программой «Женя Густман», но также и совершенно иную ситуацию — убийства в ответ на карикатуры, изображающие пророка Мухаммеда. Обе ситуации демонстрируют, насколько возбудимыми и даже легковерными мы бываем, когда нам показывают нечто, очень похожее на что-то другое, причем похожее настолько, что образ и реальность сливаются.
Чтобы пройти тест Тьюринга, машина должна быть неотличимой от собеседника-человека при имитации общения (а не думающей самостоятельно). Однако если бы некий усовершенствованный «Женя Густман» стал настаивать, что у него есть собственные мысли, как бы мы поняли, что это правда? Если он знает, что должен имитировать человеческий разум, как нам отличить сознательное притворство от имитации притворства? Людвиг Витгенштейн характеризовал притворство как особую категорию для обсуждения возможности знать состояние других разумов, рассматривая ситуацию, когда кто-то ошибочно полагает, что притворяется. Способность правильно оценить результаты теста Тьюринга в связи с возможностью самостоятельного искусственного мышления — это центральная часть риторики Витгенштейна: она приводит нас к заключению, что любые усилия здесь обречены на провал, поскольку задействуют данные, не поддающиеся оценке.
Понятие Denkraumverlust связано с непосредственным откликом на что-либо. Хотя утонченная публика может счесть попытку себя обдурить эстетическим переживанием (удачное использование трехмерной перспективы на совершенно плоском холсте, например), но, когда обман действительно удается, реагирует не столь спокойно. В культуре изображения часто подвергаются цензуре; считается, что они могут закоротить наши разумные и вдумчивые реакции. Как правило, речь идет об эротических или жестоких изображениях, но иногда — и о религиозных. Если их разрешить, они могут вызывать инстинктивную непосредственную реакцию, такую же, какую вызвала бы реальная ситуация. Новые, незнакомые технологии часто застают нас
