занимать больше теологов (которым так или иначе придется выработать какое-то отношение к ним), чем исследователей.
В намеченном направлении поиски можно продолжать различными способами. Так, например, в обществе, состоящем из «высших», то есть интеллектуально более развитых, и «низших» гомеостатов, может возникнуть ситуация, когда «метафизическая солидарность» высшей группы не будет охватывать «низших» гомеостатов, вследствие чего отношение более разумных машин к их менее сложным собратьям будет в точности соответствовать отношению человека к остальному животному и растительному миру. Аргументы в пользу метафизики зачастую опираются на ее мнимую необходимость для объяснения различных несовершенств, несчастий, страданий, не имеющих вознаграждения в этом мире. Круг подобной «метафизической солидарности» исключает все существа, кроме человека (в христианстве и близких к нему религиях). Для биолога, отчетливо представляющего бездонность океана страданий, каковым является история жизни на Земле, подобная позиция столь же смешна, сколь ужасна. Ведь за пределы нашего уважения к чужим правам, этой нашей мифотворческой лояльности, выбрасывается вся миллиардолетняя история видов, а наша лояльность охватывает только ее микроскопическую частицу, лишь несколько тысячелетий существования на Земле одной из ветвей приматов – и то только потому, что мы принадлежим к этой ветви.
Особая, занятная возможность представится, если изъять у гомеостатов сведения об ограниченности их существования. Это, возможно, уменьшит вероятность возникновения метафизики, хотя и не сведет ее до нуля. Теория гомеостатов различает машины двух типов[47]: ограниченные (которые только и осуществимы Природой и человеком) и неограниченные по своим возможностям (так называемая «универсальная машина Тьюринга»). «Неограниченный» автомат – это автомат, способный беспредельно переходить из одного состояния в другое; он является абстракцией, так как требует бесконечно большого времени и такого же количества материала. И все же гомеостаты на нашем «полигоне» могут быть столь долговечны, что мысль о собственном бессмертии представится им вполне правдоподобной. Такой автомат лишен познавательного – «гностического» – обоснования метафизики собственной бренностью, так как может питать надежду, что в процессе своего вечного бытия он познает «все». Это, однако, означает устранение только познавательных, но не компенсационных источников метафизики: подобный гомеостат может счесть свое беспредельное бытие за препятствие к переходу в «лучший мир», вратами которого было бы – в его ситуации – лишь самоубийство.
(m) Призрак в машине
«Призраком в машине» – the ghost in the machine – некоторые английские психологи (например, Райл) называют убеждение в двойственной природе человека, якобы слагающегося из «материи» и «души».
Сознание не является технологической проблемой, так как конструктора не интересует, чувствует ли машина; для него важно, действует ли она. Поэтому «технология сознания» может возникнуть, так сказать, только как побочный эффект, если окажется, что определенный класс кибернетических устройств обладает субъективным миром психических переживаний.
Каким путем, однако, можно установить наличие сознания в машине? Этот вопрос имеет не только абстрактно-философское значение: если в некой машине, предназначенной на слом из-за нерентабельности ремонта, будет обнаружено сознание, то наш акт разрушения материального предмета, вроде граммофона, превратится в акт уничтожения личности, сознающей свою гибель. Можно было бы снабдить граммофон переключателем и такой грампластинкой, что при попытке прикоснуться к нему мы услышали бы возгласы: «Умоляю, пощади мою жизнь!» Как отличить такой несомненно бездушный аппарат от мыслящей машины? Только путем разговора с ней. Английский математик Алан Тьюринг в работе «Может ли машина мыслить?»[48] предлагает в качестве решающего критерия «игру в имитацию», состоящую в том, что мы задаем Кому-то произвольные вопросы и на основании полученных ответов должны решить, является ли этот Кто-то человеком или машиной. Если отличить машину от человека не удается, следует признать, что машина ведет себя как человек, то есть обладает сознанием. Отметим, что игру можно усложнить. Мыслимы два вида машин. Первый – «обычная» цифровая машина той же сложности, что и человеческий мозг; с ней можно играть в шахматы, говорить о книгах, о мире, на любые темы вообще. Открыв ее, мы увидели бы огромное количество электрических цепей, соединенных в схемы, подобные нейронным сетям мозга, затем блоки памяти и т.п.
Второй тип машин совершенно иной. Это увеличенный до размеров планеты (или космоса) граммофон. В нем очень много, например сто триллионов, записанных ответов на всевозможные вопросы. Когда мы задаем вопрос, такая машина, конечно, «ничего не понимает», но сама форма вопроса, то есть последовательность колебаний нашего голоса, запускает реле, которое приводит в действие пластинку или ленту с записанным ответом. Вопросы технического рода оставим в стороне. Понятно, что такая машина неэкономична, что ее никто не будет строить, потому что это невозможно, а главное, непонятно, зачем ее надо было бы строить. Нас интересует теоретическая сторона. Если не внутреннее устройство, а одно лишь поведение решает вопрос о наличии сознания в машине, то не поспешим ли мы с выводом, будто у «космического граммофона» есть сознание, – и тем самым выскажем заведомый nonsense (или, точнее, ложь)?
Удастся ли, однако, запрограммировать все возможные вопросы? Разумеется, человек в среднем за свою жизнь не отвечает и на миллиард вопросов. Мы же могли бы записать на всякий случай во много раз больше. Как поступить в этом случае? Необходимо вести игру с достаточно гибкой стратегией. Мы задаем вопрос: любите ли вы анекдоты? Машина, предположим, отвечает, что она, конечно, любит анекдоты, только остроумные. Мы рассказываем ей анекдот. Она смеется (точнее, смеется голос в телефонной трубке). Либо этот анекдот был записан на ее лентах, что позволило ей включить нужную реакцию, либо это действительно мыслящая машина (или человек, ведь мы и этого не знаем). Мы разговариваем еще некоторое время, затем внезапно спрашиваем, помнит ли она анекдот, рассказанный перед этим? Если она действительно мыслит, она должна помнить. Она скажет, что помнит. Мы попросим повторить его своими словами. А вот это уже очень трудно запрограммировать, потому что тут мы вынуждаем конструктора «космограммофона» записать не только все возможные ответы, но и целые последовательности фраз, какие могут встретиться в разговорах. Это уже требует памяти, пластинок или лент в количестве, какого, быть может, не вместит вся солнечная система. Предположим, что машина не может повторить анекдот. Мы «разоблачаем» ее: это граммофон. Конструктор, уязвленный в своем самолюбии, начинает совершенствовать машину, достраивая к ней память, с помощью которой она могла бы повторять рассказанное. Но тем самым он делает первый шаг на пути от машины-граммофона к мыслящей машине. Бессознательная машина не может установить тождественность вопросов с аналогичным содержанием, но сформулированных хотя бы с небольшими формальными отклонениями; поэтому вопросы «Хорошо ли было вчера на улице?», «Хорошая ли стояла вчера погода?», «Не был ли погожим денек, предшествовавший сегодняшнему?» и т.д., и т.п. для такой машины различны, тогда как для мыслящей они тождественны. Конструктор вновь и вновь разоблачаемой машины должен будет все время ее переделывать. Наконец, после длинной серии переделок он введет в машину способность к индукции и дедукции, к ассоциациям, к пониманию одинаковой сути по-разному сформулированных, но одинаковых по содержанию вопросов и т.п. И в конце концов он получит «обыкновенную» мыслящую машину.
Возникает занятная проблема: в какой, собственно, момент в машине появилось сознание? Предположим, что конструктор не переделывал машину, а относил каждый раз в музей и следующую модель строил заново. В музее собралось 10000 машин – таково было число модификаций. В сумме это дает плавный переход от «бездушного автомата», вроде музыкального ящика, к «машине, которая мыслит». Какую машину мы должны считать уже сознательной – №7852 или только №9973? Они отличаются одна от другой тем, что первая не умела объяснить, почему она смеется над анекдотом, и лишь повторяла, что он чертовски смешон, а вторая умеет. Но некоторые люди смеются, слыша анекдоты, хотя не могут объяснить, что в них смешно. Известно, что теория юмора – трудный орешек. Лишены ли эти люди сознания? Конечно, нет; они, по-видимому, не слишком сообразительны, малоинтеллигентны, их ум не обладает сноровкой в аналитическом подходе к проблемам; но мы ведь не спрашиваем, умна машина или туповата, а только есть у
