буквально невозможно, чтобы Бог покинул народ свой. Бросить в беде — самый мерзкий из видов предательства, ибо бросить может только сильный и только слабого ([3], с. 80–86). Наши представления о личной любви исключают предательство во всех его формах, и прежде всего — способность бросить в беде. (Вот почему цитата из псалмопевца в устах Иисуса на кресте так же глубоко проблематична, как и «искушение» его дьяволом.)
Короче говоря, такие эмоции, как любовь, скорбь или негодование, — это не просто чувства. Скорее это тонко структурированные психологические диспозиции, создаваемые сложной вычислительной архитектурой.
Однако практическая работа с ИИ (законченными компьютерными моделями) дает немного оснований для выводов о самости и эмоциях. Один из ранних исследователей ИИ, а также доктор медицины и практикующий психоаналитик попытался проверить на ИИ фрейдовскую теорию невроза. Его интересовало то, как суперэго порождает тревогу; как тревога распространяется на предметы, аналогичные представляющим реальную угрозу; как выбирается один из доступных защитных механизмов (проекция, замещение, отрицание и т. п.) и как эти механизмы влияют на специфические трансформации вызванных тревогой представлений ([19], см. главы 2–3). Позже он попытался также смоделировать системы вызванных тревогой представлений, характерные для параноидной шизофрении [20]. Но эти попытки были явно незрелыми; достаточно трудно заставить компьютер рационально стремиться даже к одной цели, не говоря уж о смешении нескольких мотивов под влиянием тревоги и/или суперэго.
Современные исследования ИИ включают в себя более реалистичную (хотя и далеко не столь амбициозную) стимуляцию эмоций и изучение их способности регулировать поведение в условиях нескольких потенциально конфликтующих целей. Самый удачный пример на сегодняшний день — это эмоциональная история няни, ухаживающей за дюжиной младенцев: каждого из них нужно кормить, пеленать, ласкать и развлекать в разное время и с разной интенсивностью и каждого немедленно спасать, если он подползет слишком близко к реке или к дороге [45]. (У няни, разумеется, только две руки, она не может делать все сразу и потому вынуждена составлять себе определенное «расписание».) Но даже такая модель ИИ пока еще, увы, очень груба и не затрагивает ни образа себя, ни понятия самости.
В далеком будущем ИИ может сильно измениться. По причинам, которые объясню ниже, я не верю, что когда?нибудь он сможет воспроизводить все сложности и тонкости человеческого сознания. Однако не сомневаюсь, что ИИ далекого будущего смогут воспроизводить гораздо больше эмоций и делать это намного тоньше. Возможно, они будут включать в себя даже эффективное различение образа системы и идеала системы. В сущности, почему бы и нет? Марвин Мински, первопроходец ИИ, давным–давно указывал на то, что сложному разуму необходим образ себя [34] (и некоторые ранние ИИ–программы в его лаборатории могли исследовать собственное поведение в свете своих целей и соответствующим образом его исправлять [42]). Это в принципе возможно, поскольку понятие рекурсии делает возможной рефлексивную обработку информации. Так исчезает «парадокс» ссылки на самого себя.
13.4. Телесность
Все, что я говорила до сих пор о воздействии ИИ на наши представления о себе, полагаю, может быть без разногласий принято всеми исследователями этой темы. Но это отчасти связано с тем, что до сих пор я старательно избегала любых намеков на ту важнейшую роль, которую играет в наших представлениях о сознании, личности, самости понятие тела. В этом вопросе сами исследователи ИИ далеко не всегда друг с другом согласны.
Научная фантастика изобилует историями о бестелесных сознаниях или, точнее, интеллектах. Различные авторы, включая недавно почившего Фреда Хойла, представляют нашему вниманию странные «облачные» структуры, занимающие огромное пространство, однако каким?то образом идентифицируемые как единый индивидуум (или индивидуумы) и обладающие свойствами, аналогичными свойствам компьютера, сознания, живого существа. Однако такой футуристический сценарий почти немыслим. Что это за «свойства, аналогичные свойствам компьютера, сознания, живого существа», однако не требующие тела? И как могут эти «облака», не имея тел, удовлетворять принципу самоорганизации, на котором строится любая жизнь? То, что писатели–фантасты порой предлагают нам поразмыслить над такой идеей, еще не гарантирует, что эта идея, если повнимательнее к ней приглядеться, будет иметь смысл [9].
Нам могут сказать: под «аналогичными свойствами» имеется в виду способность к вычислению. И незачем воображать себе какие?то фантастические облака — достаточно представить вполне реальные компьютеры (пусть и компьютеры далекого будущего). Тридцать лет назад Эд Фредкин из MIT предсказал (на семинаре по последствиям развития ИИ для общества в Вилла–Сербеллони), что с помощью ИИ человечество рано или поздно достигнет практического бессмертия. Психологические процессы личности, утверждал он, будут загружаться в компьютер. Затем человек умрет, а его (ее) индивидуальное сознание и личность продолжат существование, может быть, не вечно (второй закон термодинамики и все такое), но на достаточно долгое время. Недавно ту же идею высказал еще один сотрудник MIT, Ханс Моравек [35].
Может быть, в атмосфере MIT разлито что?то этакое? Кажется, нет. Дело в том, что и Фредкин, и Моравек — известные шоумены, сделавшие «ошеломление обывателя» своей второй профессией. Далеко не все их коллеги по MIT разделяют их взгляды. Особенно подробно возражает им Род Брукс, в чьих работах по «ситуационной» робототехнике показано, что для развития сознания совершенно необходимо взаимодействие тела с окружающей средой [12].
Другие исследователи темы ИИ/И–жизни, не входящие в MIT, разделяют ту же точку зрения. Они критикуют декартово различение «разума» и «тела», а некоторые из них (например, Батлер [13]), хотя и не все (см., например, Кларк [15]), заходят так далеко, что отрицают и необходимость ментальных образов. Они сосредотачиваются не на внутренних образах (как в СДИИ), а на динамике тесного взаимодействия тела с окружающим миром. С их точки зрения наши понятия разума, сознания и самости описывают не какие?то таинственные нематериальные явления и даже не абстрактные мыслительные функции. Скорее это указания на определенные аспекты взаимодействия, безусловно материального по своей природе, между телом и миром. Короче говоря, все разговоры о сознаниях без тел или о личностях, избежавших смерти путем превращения в компьютерные программы, попросту бессмысленны.
В области ИИ эти идеи относительно новы; однако они уже много лет развиваются по меньшей мере в двух областях философии. Одна из них — теория автопоэза, философия биологии, созданная нейрофизиологом Умберто Матурана ([31]; см. также [10]). Вторая — континентальная феноменология, развиваемая, например, Морисом Мерло–Понти [33]. И там, и там сознание понимается исключительно как явление, укорененное в телесном взаимодействии личности с окружающим миром. («Тело» здесь означает именно «тело»: это не синоним «мозга».)
Мерло–Понти рассуждает об умелом использовании орудий, в особенности таких, без которых человек не может обойтись, как трость для слепого. Трость слепого, говорит он, является почти что частью тела. Конечно, это не часть тела в прямом смысле — она не способна заболеть, он может уронить ее на пол. Однако, говоря феноменологически, она дает ему «прямое» перцептивное познание почвы под ногами, такое же, как пальцы или подошвы ног. Психологически она для него «прозрачна». Ему дается в ощущениях не палка или даже палка, вступающая в контакт с почвой; он при посредстве этой палки познает и испытывает саму почву. Таким же образом и микроскоп как психологически, так и оптически «прозрачен» для умелого пользователя; то же самое можно сказать и о текстовой компьютерной программе для того, кто хорошо с ней знаком. Даже такое сложное «орудие», как самолет–истребитель, в бою оказывается «прозрачным» для умелого пилота, который воспринимает свой самолет почти как продолжение собственного тела.
Энди Кларк, философ, испытавший на себе глубокое влияние ситуативной робототехники и теории автопоэза, недавно развил свои взгляды на эту тему в весьма неожиданной на первый взгляд теории «самости» ([14]; [16], глава 8). Он не спорит ни с чем, что я говорила выше о «самости» ИИ, однако делает к этому удивительное добавление. Он рассматривает такие «когнитивные технологии», как чтение, письмо и набор текста (очевидно, столь же психологически «прозрачные», как трость слепого), как
