включает в себя такие «вечные темы», как природа свободы, самость, эмоции, уникальность человека, сознание — темы, важнейшие для всех религий. Я постараюсь убедить вас, что ИИ может пролить и, в сущности, уже пролил на эти темы новый свет. Однако я не случайно сказала «убедить», может быть, даже «поспорить» об этом, ибо этот вопрос вызывает большие споры.
13.2. Концепции ИИ и технология
То, как ИИ повлияет на наше самосознание, зависит от общества: от его знаний и предрассудков об ИИ и от лежащих в их основе представлений о природе разума. У нас уже имеются важные свидетельства, представленные социологом и психоаналитиком Шерри Теркл, исследовавшей то, как дети интерпретируют свой опыт взаимодействия с компьютерными технологиями.
Свои исследования она начала с детей начала и середины 1970–х годов, сталкивавшихся с компьютерами в школе или дома [43]. (Домашних компьютеров, какими мы их знаем, в то время еще не было: машины предоставлялись исследователями ИИ из Эм–Ай–Ти[82].) Дети управляли программами, основанными на классических моделях ИИ, с использованием простого и понятного для детей языка программирования LOGO [36]. Основные формы общения: «Сделай это, затем то; если произойдет то, сделай это; в противном случае сделай так?то…»
Работая с этими машинами, Теркл обнаружила, что даже самые маленькие дети по собственной инициативе настаивают на четком различении людей и компьютеров. Они с восторгом принимают мысль, что компьютер разумен, что он умеет думать. Но, тут же добавляют они, он не может «любить» или «чувствовать», как мы. Более того, он не может ничего делать «сам по себе», а только «когда ему скажут». Короче говоря, дети воспринимали компьютеры как создания, лишенные эмоций и автономии, в отличие от людей.
Второе исследование Теркл было проведено двадцать лет спустя [44]. К этому времени были широко доступны небольшие самоорганизующиеся сети взаимосвязанных ИИ, а также простые программы И– жизни, включающие в себя реактивные и/или эволюционные техники. Оказалось, что новое поколение детей также старается провести четкую границу между человеком и машиной. На этот раз автономия не входила в число существенных критериев, поскольку деятельность этих «существ» [sic!] в определенном смысле происходила «сама по себе», без приказов человека. Дети по–прежнему использовали для различения понятие эмоций, но теперь к нему добавилось понятие телесности.
Что же касается жизни, и дети, и взрослые, которых опрашивала Теркл, затруднялись в ответе на вопрос, являются ли эти создания «живыми». Некоторые говорили, что нет; некоторые называли их «в каком?то смысле живыми» или отвечали, что они «живые, но не так, как мы». Никто не назвал их живыми с уверенностью и без ограничений, как поступали из уважения к разуму и мышлению их предшественники в 1970–х. И многие, в том числе и взрослые, противоречили сами себе. Такая путаница во мнениях неудивительна: понятие жизни для нас еще более сложно и трудноопределимо, чем понятие интеллекта [9]. Однако эти данные, как и более ранние, показывают, что у нас существует потребность в четком отделении людей (и животных) от компьютеров.
Та же необходимость проявилась в замечании чемпиона мира по шахматам перед его состязанием (в 1996 году) с компьютерной программой «Дип Блю» (которая выиграла благодаря чипам, обрабатывающим 200 миллионов команд в секунду). «Думаю, — сказал тогда Гарри Каспаров, — в этой игре я в каком?то смысле отстаиваю честь человечества». Такое словоупотребление ясно показывает, что любые грядущие успехи в области ИИ неизбежно будут на практике подрывать широко распространенные взгляды на «честь», ценность и уникальность человека. (Каспаров проиграл и был потрясен и глубоко угнетен таким исходом.) А это, в свою очередь, угрожает всем религиям, базирующимся на представлении об уникальности homo sapiens. Чтобы избежать этой угрозы, приходится либо бросать вызов науке на ее условиях, например, выигрывая шахматные партии или утверждая (как это делали дети), что ИИ не может испытывать эмоции, либо от нее отмахиваться.
Для многих искушение отмахнуться от науки становится все соблазнительнее. Стивен Кларк (еще один из авторов этой книги) писал, что близкая родственница ИИ — И–жизнь — поощряет «магический» взгляд на науку и технологию, когда они рассматриваются как некое неуправляемое волшебство [17]. То же самое происходит с теорией хаоса, квантовой физикой и теорией суперструн. Для среднего человека все эти теории совершенно непонятны, и даже сами ученые подчеркивают их странность и непредсказуемость.
Средний человек в смятении. С одной стороны, ИИ и И–жизнь во многом напоминают людей: столь же загадочны, увлекательны, непредсказуемы, зачастую малопонятны и опасно неконтролируемы. Более того, они кажутся автономными и порой возникают («рождаются») путем самоорганизации. С другой стороны, они совсем другие: могут вести себя (и часто себя ведут) не просто странным, но совершенно чуждым для нас образом. Однако обе стороны этой амбивалентности можно назвать «магическими». Согласно «магическому» взгляду, науке и технологии нельзя доверять: они доказали, что неспособны давать нам то и только то, что мы заказывали. (Требование «то и только то» возникло, разумеется, много лет назад, благодаря таким нежелательным эффектам, как побочные действия лекарств и загрязнение окружающей среды.)
Некоторые, возможно, полагают, что «магическое» восприятие ИИ и И–жизни «благоприятно» для религии. Разумеется, отворачиваясь (по любой причине) от науки, люди часто обращаются к религии или по крайней мере начинают смотреть в ее сторону. Яркий пример — «Создание контркультуры» Теодора Рожака [37]. Эта увлекательная книга — преамбула к яростной атаке [38] на то, что он называет «механической подделкой» и «обесчеловечивающим действием» ИИ, свела воедино различные направления неоромантической мысли. Основной ее тезис: очернение науки и пропаганда религии — какой угодно.
Когда она вышла в свет, я уже много лет преподавала философию религии. Я наслаждалась этой работой: помимо увлекательности самого содержания, общаться со студентами было настоящим удовольствием. Их было немного (курс был по выбору), но все они действительно интересовались темой. Яростные атеисты, пламенные верующие, обеспокоенные агностики — все они стремились думать о религиозной вере и искали связные аргументы (за или против), которые бы им в этом помогли. Когда «Контркультура» стала культовой книгой, число студентов утроилось. Но интеллектуальная серьезность исчезла. Теперь можно было говорить все что угодно, лишь бы это кому?то нравилось. Необязательно стало даже следить за связностью речи. Фрейд был изгнан, на его место пришел Юнг: вопрос о существовании Бога относился больше не к реальности, а к душевному миру вопрошающего и даже в таком качестве не воспринимался серьезно. Звучали громогласные заявления, но аргументация сделалась излишней. (После двух или трех лет таких мучений я передала курс другому преподавателю.)
Короче говоря, «магический взгляд» на науку и технологию весьма толерантен к религии или к тому, что бездумно выдается за таковую. Впрочем, терпим он и к более интеллектуально респектабельным версиям религии. ИИ далекого будущего, разумеется, будет куда более непредсказуем и куда менее понятен, чем современные системы. Вполне вероятно, что эта технология, все более «магическая», подтолкнет множество людей к религии в социологическом смысле слова.
13.3. Автономия, разум и эмоции
Но, если вернуться к теории — должно ли это происходить? Ответ на этот вопрос зависит от того, поддержит ли ИИ будущего взгляды на человеческую природу, имеющие религиозную значимость, а именно понятия человеческой свободы, уникальности, эмоций, самости и сознания, в том числе религиозного опыта. Иными словами, он включает в себя весьма сложные и спорные вопросы, относящиеся к теоретической психологии и философии разума.
Далее я собираюсь показать, что ИИ уже предлагает теоретическую поддержку этих понятий. В
