кошмаре? — спросил я.
— Весьма любопытный документ.
— Лично мне книга не очень понравилась. История, на мой взгляд, была действительно страшная, а Бромберг написал, скорее, пародию на обезумевших от страха ученых.
Нехожин покачал головой.
— Несмотря на свою эксцентричность, Бромберг был проницательным ученым, — заметил он. — Ему удалось ясно показать фундаментальную ошибку всех этих «специалистов по искусственному интеллекту», «генных инженеров» и «фукамизаторов» всех мастей. Всю высшую деятельность человека, — сознание, самоосознание, мышление, эмоции, язык они пытались свести к исключительно материально- энергетическим процессам, протекающим в мозге, — к взаимодействию нейронов, биохимическим реакциям и тому подобному… С этой точки зрения наука в начале двадцать первого века все еще оставалась на уровне девятнадцатого. Если вдуматься, получается забавная картина? Человек в результате такой «вульгарной редукции» вообще исчезает. А ведь эти «чисто биохимические реакции» любят, страдают, создают великие произведения искусства, строят великолепные города, возводят храмы, открывают другие миры… Надо ли говорить, что подобное понимание человека очень далеко от истины.
— Насколько я помню, вы в своей книге говорите о «нелокальном» характере мышления, о том, что мышление не локализовано в мозге.
— Вот именно. Но мышление, обратите внимание, — это только одно из проявлений сознания. Сознание же охватывает собой совокупность всех этих незримых и неуловимых для традиционной науки информационных структур, восходящих к самому Ноокосму. Поэтому и сознание человека не локализовано в мозге. Этот «нелокальный» характер сознания всегда был камнем преткновения для научного ума. Ученые мужи нагромоздили Эвересты «умных» слов, пытаясь понять его природу. Большинство до сих пор считает, что сознание — это просто совокупность всех проявлений высшей нервной деятельности человека: мыслей, образов, ощущений, чувств и эмоций. И все же многие интуитивно чувствуют, что оно несводимо к ним. Как возникает сознание в мозге, вот вопрос всех вопросов? По сей день специалисты по высшей нервной деятельности и искусственному интеллекту ломают над этим голову. Во все времена предлагалось множество теорий и определений сознания. Но среди них нет ни одного более или менее удовлетворительного, а некоторые просто курьезны.
Дэниел Деннет в начале двадцать первого века выдал, к примеру, такой перл «технократической» мысли, который некогда меня позабавил: «Человеческое сознание само есть огромный комплекс мемов[18] (точнее, действий мемов в мозгу), что лучше всего можно представить себе как работу некоей «фон-неймановской» виртуальной машины, реализованной в параллельной архитектуре мозга, который не был спроектирован в расчете на такую работу».
— Что, что?! Как, простите? — спросил я. — Который не был спроектирован…
— …в расчете на такую работу, — закончил Нехожин, улыбаясь. — То есть, Деннет утверждает, что сознание является просто побочным продуктом работы компьютера некого особого типа. Тогда вообще модным было считать, — особенно этим страдали специалисты в области ЭйАй (Искусственного Интеллекта), — что мозг — это просто очень сложный биокомпьютер и «сознание» — это некое «возникающее» свойство такого компьютера. Многие были уверены, что с наличием более мощных компьютеров и внедрением в практику новых теорий, например теории нейронных сетей, компьютеры вот-вот спонтанно обретут сознание. Велись даже серьезные дискуссии по поводу того, будет ли морально выключать такой «сознательный» компьютер и надо ли будет предоставлять ему некие «гражданские» права для полноправного участия в жизни общества.
Хотя уже в то время некоторые исследователи интуитивно чувствовали что, мысль, эмоция, а тем более сознание и самосознание человека имеют иной, «нематериальный» характер, в отличие от так называемых «материальных» процессов и несводимы к ним. Но они никак не могли перешагнуть некий «психологический барьер» и допустить, что могут существовать два различных вида бытия: например материальное и ментальное, несводимые друг к другу. Хотя именно это допущение открывало дорогу к истинному видению многомерности человека и универсума, но оно же указывало на пределы «традиционной науки», лишало ее так сказать предмета исследования. В самом деле, как можно изучать «нематериальную» мысль?[19]
Нехожин помолчал некоторое время, скрестив руки на груди и вытянув ноги.
— Ну а теперь, — продолжил он, — в свете вышесказанного, зададимся вопросом, может ли компьютер или даже Искусственный Интеллект, обладать сознанием, «мыслить» или иметь эмоции? И можно ли загрузить, например, «сознание» человека в компьютер, как об этом мечтали «кибермодернисты»? Другими словам, может ли человек искусственно создать некую компьютерную систему, которая будет воспроизводить эту многомерную структуру информационных уровней Ноокосма и воспринимать подобно мозгу вибрации этих уровней и, кроме того, «осознавать» их? Я уже не говорю об обретении компьютером «пси-индивидуальности», то есть души…
Компьютерная система любой сложности может лишь более или менее удачно имитировать высшую нервную деятельность человека: «мышление», эмоции, даже наличие «самосознания», но никогда она не будет на самом деле мыслить, чувствовать и сознавать. Машина останется машиной, просто ее можно сделать очень похожей на человека.
Кстати, именно это на самом деле доказывает знаменитый тест Тьюринга, гласящий что «если машина может выполнять интеллектуальные задачи, например поддержание беседы так, чтобы внешне это нельзя будет отличить от тех же действий, совершаемых человеком, то внутренне она тоже от человека отличаться не будет». Почему Тьюринг сделал такой забавный вывод, остается загадкой. На самом деле этот тест говорит лишь о том, что мы можем создать машину, которая сумеет лишь более или менее удачно подражать «высшей нервной деятельности» человека и не более того.
В конце двадцатого века один исследователь писал не без юмора: «…Если бы все больше и больше клеток вашего мозга заменялись интегральными микросхемами, запрограммированными так, чтобы их характеристики входа-выхода были идентичны заменяемому элементу, вы по всей вероятности сохранили бы способность говорить точно так же, как и сейчас, за исключением того, что постепенно перестали бы что-либо иметь под этим в виду. То, что мы, сторонние наблюдатели, все еще принимали бы за слова, для вас стало бы просто некоторым шумом, который заставляют вас издавать ваши микросхемы».
История с Массачусетской Машиной действительно страшная и Бромберг, пожалуй, и в самом деле слишком усердствует, высмеивая ее создателей за «переполох, который они устроили со всем этим минированием, колючей проволокой и прочими «судорожными телодвижениями», как он выражается. Но испуг их был вполне оправдан, потому что Массачусетская Машина слишком хорошо начала имитировать разум, причем нечеловеческий. Более того, она за те четыре минуты, которые ей удалось проработать, видоизменила свою программу и почти успела наладить конвейерную сборку киборгов во всепланетном масштабе, переключив на себя энергетические ресурсы почти всей Северной Америки и на глазах у ошеломленных исследователей начала зарождаться и набирать силу новая, нечеловеческая цивилизация Земли. Интересно, что создатели этой Машины испугались именно того, за что сами так долго ратовали. Как говориться, за что боролись, на то и напоролись. Ведь по сути ЭмЭм начала реализовывать их собственный идеал. Ее незадачливые создатели в эти четыре минуты ясно осознали, что людям в мире киборгов не будет места. Либо они, либо мы. Такова была альтернатива. Если бы Машину не смогли остановить, можно предположить, что последствия для человечества были бы весьма плачевными. Возможно, сейчас мы жили бы уже на планете киборгов. А людей как «существ низшего толка» она бы в лучшем случае согнала в резервации, а в худшем распорядилась бы уничтожить, следуя своей нечеловеческой логике, за ненадобностью. Недаром Мировой Совет наложил строжайший запрет на дальнейшие разработки в этой области.
И все же, несмотря на все это, ума и сознания у Массачусетской Машины отнюдь не прибавилось. Железо осталось железом.
— Да, Ростислав, — сказал я, — абсурдность киборгизации человечества сейчас представляется вполне очевидной, чего не скажешь о генетике. Когда сестры Наталья и Хосико Фуками начали эксперименты с фукамизацией и растормаживанием гипоталамуса, а Освальд Амудсен сделал прорыв в генетике, многим тогда казалось, что человечество обрело новую «панацею».
— Но ведь и генетика, Максим, имеет дело с самым внешним, поверхностным уровнем человека, с его
