помощи четких детерминированных процедур, и для этого совсем не требуется вводить в программное обеспечение таинственные «осознанные переживания». С другой стороны, обладающее сознанием существо способно на субъективные переживания; например, оно может видеть красный цвет или чувствовать гнев, не нуждаясь при этом в работе интеллекта, справляющегося с любыми задачами. Андроид может быть наделен куда более развитым интеллектом, чем любой человек, но он все равно будет лишен малейшего проблеска внутренней психической жизни. С другой стороны, живое создание может быть непроходимо глупым, но в то же время иметь субъективные переживания.
Агент Смит представляет собой пример машины, чье поведение напоминает поведение человека. Если бы вам довелось стать свидетелем того, как какой-нибудь человек говорил так же, как агент Смит, и пользовался такими же жестами, как он, вы моментально сочли бы и его речь, и его жесты проявлением осознанных эмоций и желаний. Действительно, именно поспешность интерпретации вводит нас в заблуждение. Когда вы видите, как кто-то смеется от радости или кричит от боли, вы делаете неосознанные выводы о психическом состоянии человека по этим внешним признакам, словно вы видите сами эмоции. В то же время пример виртуозных актеров доказывает нам, что признаки эмоций можно сфальсифицировать. Поэтому вы и делаете вывод о выражении эмоций, хотя и автоматическом. Доскональный анализ подобных машинальных умозаключений — это задача философии. Когда вы наблюдаете, как другой человек проявляет эмоции, ваши выводы основываются не только на том, что вы видите, но и на вводной информации (например, эта информация может сообщать, что человек, на которого вы смотрите, играет на сцене театра). Более того, вы исходите из разумного предположения о том, что поведение этого человека обусловлено деятельностью биологического мозга, как и ваше собственное. А когда эти исходные посылки подрываются, вы неизбежно начинаете пересматривать все заключения, сделанные вами на основе наблюдений за эмоциями другого человека. Если поток эмоций прекращается и окружающие вас люди начинают аплодировать, вы понимаете, что все увиденное — это часть представления уличного театра, и тот человек лишь изображал эмоции. Или если этот человек на ваших глазах попадает в ужасную автомобильную аварию, в которой ему пробивает череп, и вместо мозга там оказывается электронная начинка, до вас доходит, что это был всего лишь андроид, и отсюда вы можете заключить, что он просто симулировал эмоции.
Ключевой момент в вынесении суждения — это допущение того, что эмоция играет некую роль в бессистемном цикле, порождающем слова и жесты, которые находят внешнее проявление. Если вместо этого мы оттолкнемся от того, что наблюдаемые нами слова и жесты целиком и полностью объясняются как-то по-другому, без участия эмоций, тогда наши выводы ждет неудача. В этом случае поведение перестает служить доказательством внутренних эмоциональных переживаний. Если нам известно, что слова и жесты актера заданы сценарием, то мы уже не считаем их подтверждением внутреннего психического состояния. Точно так же, если мы знаем, что слова и жесты андроида или виртуального воплощения запрограммированы, они перестают подкреплять любой вывод о психическом состоянии.
Слова и жесты андроида или запрограммированной модели человека являются результатом работы миллионов строк различных программ. Программное обеспечение переходит от команды к команде в строго заданном порядке. Отдельные команды перемещают фрагменты информации в память, другие проводят вычисления, третьи посылают двигательные сигналы в исполнительные механизмы тела. Каждая строка программы ссылается на реальные ячейки памяти и порты, существующие в материальных аппаратных средствах. Это может происходить очень символично и через сложные структуры данных, например с использованием метки «поле зрения», чтобы сослаться на стабилизированные и более контрастные данные, поступившие из глазных камер. Тем не менее этот код объективной окружающей среды не нарушается ни на одном участке программного обеспечения и не ссылается на таинственное содержание сознания. Не мог бы этого сделать и программист, поскольку ему потребовался бы объективный третий маркер, который подвел бы его к сознательному опыту, который, являясь субъективно-первичным, не может быть определен при помощи такого указателя.
Все, что может сказать и сделать андроид, полностью задается его программным обеспечением. Здесь не существует объяснительного зазора, который пришлось бы заполнять сознанию машины. Когда андроид говорит «я вижу цвета и чувствую эмоции, как люди», мы знаем, что эти слова порождены детерминированными строками программного обеспечения, которое прекрасно функционирует без всякого вмешательства сознания. Именно поэтому эмоции андроида не обеспечивают ни малейших доказательств внутренней психической жизни. Все внешние признаки эмоций оказываются подделанными, и программист во всех подробностях знает, каким образом они подделаны.
Этот момент систематически не принимается в расчет математиками и инженерами, приходящими в восторг от искусственного интеллекта. Вам нужно в следующую дверь, на кафедру философии, если вы ищите людей, которые придадут этому обстоятельству должное значение. Даже если каким-то неизвестным способом андроид и обрел бы сознание, он никогда бы не рассказал нам об этом. Как мы видели, все сказанное андроидом определяется его программным обеспечением. Даже если где-то в глубине его схемных плат мелькнет призрачный проблеск сознания или воли, он никогда не повлияет на речь и поступки андроида.
Может ли статься так, что информация в компьютере и
Еще один популярный аргумент — ссылка на «происхождение». Говорят, что системы более высокого уровня «произошли» от систем более низкого уровня. Простой классический пример: термодинамические свойства, такие как тепло и температура, являются результатом статистического поведения молекулярных ансамблей. И все-таки концепция «температуры» не опирается на изолированную молекулу, хотя в совокупности миллиарды этих молекул и создают температуру. По аналогии с этим примером было высказано предположение о том, что сознание возникает из совокупного поведения миллиардов нейронов, которые в отдельности никогда бы не смогли обладать собственным сознанием. Однако на самом деле эмерджентные свойства являются искусственным следствием того нашего описания окружающего мира и не существуют объективно за пределами математических теорий. Группу молекул можно описать либо через траекторию движения отдельных молекул, либо через их совокупные свойства, но последние изобретены людьми ради упрощения. Внешняя реальность состоит лишь из молекул: статистические свойства, такие, как средняя кинетическая энергия, существуют только в голове у физика. Подобно этому любые динамические свойства совокупного поведения клеток головного мозга существуют лишь в моделях ученых, занимающихся изучением мозга. Внешняя реальность заключает в себе лишь клетки мозга. В то же время, как вам известно, когда вы прищемите свой палец дверью, ощущаемая вами боль будет реальной и возникнет в один момент, и это не теоретическое построение, существующее в мозгу ученого.
Итак, имеются веские причины полагать, что машины не обладают сознанием. Однако нельзя ли те же самые аргументы применить к мозгу? Разве он не является биоэлектрохимической машиной? Он выполняет строго заданные программы, закодированные в его генетических и нервных проводках. И все же, если наш аргумент в пользу того, что машины лишены сознания, можно использовать и по отношению к мозгу, тогда он становится ошибочным, ведь мы доподлинно знаем, что наш собственный мозг наделен
