Молох (сборник)

прямая конструкторская дорога к интеллекту. Сейчас, лучше информированный, я понимаю всю сложность проблемы. На вопрос, может ли человек выполнять сложные функции с четко определенной целью бессознательно, или же скорее без участия сознания, без колебаний можно ответить утвердительно. Именно так поступает мало-мальски опытный водитель автомобиля, гребец, человек, управляющий в воздухе дельтапланом, а также люди во многих других ситуациях. Скорее даже в этих областях господствуют именно состояния, противоположные сознательным, поскольку гармоничное сочетание навыков, полученных при участии сознания, затем подвергается автоматизации до такой степени, что вторжение сознательного внимания в единую последовательность уже усовершенствованных действий может скорее помешать, чем помочь. Это касается также и наших языковых способностей. Зачастую трудно продекламировать наизусть фрагмент, вырванный из середины какой-нибудь поэмы или стихотворения, именно потому, что это требует определенной дезавтоматизации. Ведь чтобы произнести такой фрагмент, бывает легче начать текст с начала. Это свидетельствует о возрастающей благодаря обучению или приучению автоматизации действий, для которых требуется одновременная работа нейронных модулей, порой расположенных в разных полушариях мозга. Однако очень трудно определить, каким образом ощущает сознание человек, пораженный афазией, атаксией, алексией или агнозией. Нам известно, что человек может видеть, будучи в своем сознании слепым. Такой невидящий не знает, что видит окружающий мир и другого человека с мячом в руке, но схватит этот мяч, если его ему бросить. Феномены такого рода, а их существует легион, лучше известны неврологам, которые, как, например, российский исследователь Лурия, имели дело с тысячами людей, имевших различные повреждения мозга. Лечение таких состояний часто основано на терпеливом обучении пострадавшего использованию различных проявлений окружающей среды или специальных приспособлений, или же контролю поведения другими органами чувств. Было бы нонсенсом, если бы я далее углублялся в неврологию, а сказанное служит лишь в качестве наброска для вступления к теме неметрически многомерной активности мозга, который может любую произвольную целенаправленную функцию выполнить абсолютно различными способами.

Как я писал в «Сумме технологии», конструктора интересует не то, есть ли сознание у машины, а лишь то, правильно ли она функционирует. Все, что мы знаем о внесознательном автоматизме, а также о бессознательной активности инстинктов, позволяет нам считать возможным изучение сложных систем (например, нейронных сетей), когда, зная, что находится на входе, а что — на выходе системы таких сетей, мы можем не знать, что происходит в самой сети. Пока мы не слишком далеко продвинулись от компьютерных программ Винограда, при помощи оптических датчиков и рецепторов выполнявших поручения типа: «скажи, сколько геометрических тел стоит на столе» или «поставь конус на куб» и т. д. Сейчас нам с триумфом объявляют, что робот, который умеет подняться по лестнице или спуститься с нее, может самостоятельно ориентироваться в лабораторном окружении. Однако я бы не сказал, что его уже можно сравнить по умственному развитию с полуторагодовалым ребенком, который еще не разговаривает. Тем временем энтузиасты Artificial Intelligence хотят уже в следующих поколениях роботов видеть если еще не Эйнштейнов, то по меньшей мере официантов или домашних охранников. А ведь как с охранником, так и с официантом можно поболтать на политические или экономические темы. В моих глазах поборники AI сегодня напоминают скорее группы цирковых акробатов, намного более проворных, чем зрители, поскольку они способны выполнять прыжки в воздухе с трапеции на трапецию. Это неоспоримое мастерство sui generis, но оно не должно в каждом случае находиться под сосредоточенным вниманием сознания. Хотя я приписывал машинным системам будущего способность лингвистической артикуляции, и, следовательно, искусство ведения разговоров с человеком в рамках определенной тематики, но не стал бы сравнивать эту способность со свободой речи неквалифицированного разнорабочего или кухарки. Ведь не упоминалась немаловажная проблема, заключающаяся в том, что способность отличить в разговоре искусно запрограммированный компьютер от человека в очень большой, а точнее, в различной степени зависит от интеллектуального уровня собеседника-человека. Из трудов Вейзенбаума мы узнали, между прочим, что его псевдопсихологической программе Eliza удавалось обмануть даже тех людей, которые знали, что ни один человек и ни один разум не стоят за произносимыми вопросами и ответами. Однако психологическое заблуждение, вызванное антропоморфической проекцией, приводило к тому, что, например, секретарша, которой программа Eliza задала вопрос, с точки зрения секретарши интимный, просила, чтобы профессор оставил ее один на один с машиной, понимающей ровно столько же, сколько может понимать стена, отбивающая удары игрока теннисным мячом. Таким образом, мы вынуждены признать проблему искусственного интеллекта дихотомичной, поскольку она возникает при столкновении двух систем: человека, который в нашем предположении понимает, что делает и говорит, и машины, которая, очень постепенно в разных направлениях совершенствуясь, будет имитировать партнера. Я опасаюсь, что имитация может оказаться одновременно и бессознательной, и замечательно изображающей сознание. Эта трудность еще не преодолена, и потому сегодня она представляет собой гордиев узел, распутыванием или рассечением которого должно будет заняться только будущее.

Интеллект — случайность или неизбежность[311]

В беседе с молодыми немецкими философами я позволил себе задать несколько риторический вопрос: может ли интеллект считаться существенным условием сохранения вида. Я ответил себе сам, констатируя, что многомиллионное разнообразие живых видов на Земле возникло и опирается на точно нам неизвестное многомиллионное количество видов бактерий. Возникло оно после того, как цианобактерии, фотосинтезирующие водоросли, а также, вероятно, многочисленные другие прокариоты радикально изменили атмосферу едва остывшей и покрытой коркой Земли, благодаря чему возникшая в водах океанов жизнь, разделившись на растения и животных, смогла начать нашествие на континенты. Бактерии, сказал я, являются единственными организмами, способными пережить сильнейшие геологические и космические катаклизмы за исключением, пожалуй, полного испепеления нашей планеты в результате превращения Солнца в красного великана, который размерами превысит орбиту Земли, а может, и Марса. Не отрицая, таким образом, активной деятельности человеческого интеллекта, вместе с тем нельзя приписывать ему потенциал выживания, превосходящий потенциал, присущий миру животных. Виды, которые просуществовали сотни миллионов лет и сохранились до сих пор, как, например, насекомые, отличались изменчивостью, позволившей динозаврам дожить до нашего времени благодаря перерождению в птиц.

Наши, то есть земные, ведущие эволюционисты все более определенно склоняются к мнению, что эволюционные видообразующие способности, при всей их удивительной искусности в формировании и моделировании живых организмов, которые на очень широком функциональном фронте постоянно превосходят наши технические возможности, не являются проявлением прогресса. Тем самым многое из того, чему нас научили в XX веке, а именно, что существует прогрессивность этапов развития от допозвоночных, через рыб, земноводных, пресмыкающихся до млекопитающих, венцом которых стали Приматы (Primates), оказывается нашим заблуждением, мнимо упорядочивающим эволюцию. В настоящее время специалисты склоняются к мнению о фактической разнородности не столько древа Линнея, сколько зарослей жизни. Такой деклассификацией процесса эволюции занимается американский эволюционист Стивен Джей Гулд, известный специалист по улиткам, семейно-видовое разнообразие которых дало ему первый толчок к пересмотру взглядов на прогрессивность, якобы постоянно присутствующую в эволюции. Этот подход, не единственным сторонником которого является американский ученый, может охватывать теории только частично противоречивые, как, например, пунктуализм или сальтационизм. В самом деле, благодаря накоплению палеонтологических знаний мы сегодня знаем, что в эволюции жизни есть даже миллионолетние периоды стаза или неизменности видов, являющихся производными различных прототипов, которые сумели сдать экзамен на адаптацию.

Течение минувшего земного времени измеримо и разделено на последовательные геологические эпохи, но вместе с тем представляет огромный биохимически-топологический промежуток, в котором возникло одновременно или в различной последовательности все, что заложено в проектной мощности четырех нуклеотидов и двадцати белков. В сопоставлении с колоссальным разнообразием биологических форм любые метафоры должны хромать; возможно, стоит осознать, что оказавшееся (как египетские, а