Как легко может догадаться Читатель, этими немного туманными словами я приближаюсь к вполне современному вопросу, который поставил почти полвека назад английский математик Алан Тьюринг: возможно ли сконструировать такой «конечный автомат» (компьютеры являются такими автоматами как одна из ветвей информационного дерева, выросшего из зерна кибернетики), который не удалось бы в разговоре отличить от человека? В 60-е годы я много раз участвовал, главным образом в бывшем Советском Союзе, именно в таких дискуссиях и горячих спорах, в которых эту проблему пытались разгрызть. Как известно, программы (software), способные вести некоторые разновидности разговоров с человеком, уже существуют. Однако любую такую программу, имитирующую разумного собеседника, можно раньше или позже «разоблачить». Простейшим способом, до которого (не знаю почему) никто или почти никто не додумался, является рассказ неизвестному участнику дискуссии простенькой истории, например анекдота или шутки, и требование, чтобы рассказанное он повторил своими словами. Машина легко повторит все буквально; нормальный человек не сможет быть точным в пересказе, поскольку он запоминает не столько сложенный из слов ТЕКСТ, сколько его СМЫСЛ, то есть понимает рассказ. Перед нами возникает реальная проблема: можем ли мы и каким образом убедиться в том, что машина «компьютер» понимает что-либо подобно человеку? Необходимо вначале отметить, что «понимание чего-либо» имеет свои уровни и виды. Собака в некотором смысле «понимает», чем занимается ее хозяин, когда видит, как тот собирает чемодан, ибо это она уже видела и «знает», что предстоит какая-то поездка. Но даже и муха «знает», что ей грозит от мухобойки, которой размахивает человек, разгневанный на ее назойливость. Способ, посредством которого разные виды «знания» различаются между собою в различных ситуациях, невозможно проще объяснить, кроме как отталкиваясь от «инстинктов», среди которых основным является инстинкт самосохранения, и в этом самая суть дела. Ни один компьютер, в совершенстве играющий в шахматы, или переводящий научные тексты, или ставящий диагнозы по результатам анализов и информирующий о болезнях, не будет пытаться избежать ударов молотком или киркой, то есть не проявит «инстинкта самосохранения», который лежит в основе «формирования» всех видов живых тварей (за исключением растений). Тот, кто не пробовал кого-нибудь сожрать и не пытался противостоять пожиранию его другими в ходе миллиарднолетних эволюционных процессов, исчез; и только успешно поедающие и успешно убегающие остались жить.
Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге «Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.
Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» — понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» — грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.
Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким- нибудь необычным гением.
Впрочем, задача, поставленная Тьюрингом, сильно изменилась вследствие того, что именно сегодня о разнообразных возможностях компьютера мы знаем больше, чем о том, каким образом функционирует наш мозг. По моему мнению, основывающемуся не столько на чтении работ из области нейрофизиологии, сколько на собственном интроспекционном опыте, мозг состоит из большого количества подсистем, соединенных между собою для совместной работы таким образом, чтобы обеспечивать оптимальное получение результатов на основе различной информации, а также отражать необычайно долгий исторический (эволюционный) путь, который прошел мозг за тысячи поколений животных, впоследствии — гоминидов, а на финише — нас. Определенную зависимость сознания (боюсь этого термина) от состояния мозга стареющий человек испытывает в большей степени, чем молодой, находящийся в хорошем психическом состоянии. У такого старика, как я, иногда случается, что забывается имя хорошо известного ему ученого, например Пригожина или Планка. Усилие, прилагаемое для воспоминания (чего-либо), почти невозможно описать. Впрочем, часто оно оказывается напрасным, но видимая бесплодная работа «сознания» тем не менее приводит в движение некоторые механизмы из раздела «information retrieval[32]», так как почти всегда, раньше или позже, иногда через несколько десятков секунд, иногда на следующий день, искомый термин (здесь: имя) «всплывает» из непамяти. Как он был найден — не имею понятия, и пока никто не может мне этого объяснить. В любом случае здесь мы видим одну сторону владения профессиональной информацией, имеющейся в памяти. С другой стороны, человек, занятый напряженной умственной работой (или склеротик), много времени тратит на поиск очков, газеты, письма, так как откладывание, прятанье, оставление «где-то» выходит ЗА пределы запоминаемых действий, которые сознание ДОЛЖНО вложить хотя бы в извилины «кратковременной памяти». И эти неосознанные и беспамятные действия нередко бывают «осмысленными» и соответствуют обстоятельствам, то есть речь не идет о хранении носков в холодильнике или мороженого в ящике стола. Бывает это — как мы говорим — «неосмысленно», подобно поведению эпилептика, склонного к так называемому «petit mal», что значит моментальное временное «отключение» сознания, причем оно МОЖЕТ БЫТЬ присутствующими наблюдателями
