может как повиноваться, так и протестовать. Если «искусственный интеллект» всегда будет готов повиноваться, то тем самым он продемонстрирует свое безволие, отсутствие собственного мнения. То, что одни и те же научные, художественные, литературные и прочие тексты разные люди с разным уровнем образования (только, конечно, не полные идиоты, о таких вообще речь здесь не идет) могут по-разному трактовать и интерпретировать, оценивать как глубокие или поверхностные, могут расстроиться, или по крайней мере остаться к ним безразличными, или выражать восхищение — все, что я перечислил и чего, ради краткости эссе, не назвал, демонстрирует реальное множество вариантов проявления разумности, наличие которой мы склонны признать. Если бы все обстояло иначе, то и диахронически, в истории, и синхронически, в современности, не могли бы возникнуть разные стили мышления в религии, в философии и last but not least даже в процессе инженерно-производственного создания смертоносного оружия или чудодейственных лекарств и терапевтических методов. Ибо, например, ни одна программа из всех ныне существующих экспертных программ нового способа лечения какого-либо заболевания нам не предложит, так как программы абсолютно не способны думать, а начни они думать, то принялись бы думать по- разному. Иначе говоря: создать искусственный разум — значит расширить пространство свободы, в том числе и творческой. Так называемая «лингвистическая перформативность» означает всего лишь, что ни один человек, способный пользоваться языком (понимать его и говорить на нем), вовсе не должен, да и не может абсолютно одинаково формулировать мысли, которые приходят ему в голову. «Перформативность» в столь скромных масштабах просто означает, что мы говорим в меру свободно, а не декламируем исключительно то, что вызубрили наизусть. Наизусть шпарит грампластинка, магнитофонная лента или дискета. Нам по силам «направленье бега мысли, словами выражаемой, менять». Чем лучше кто-то знает данный язык, тем большая артикуляционная свобода может присутствовать в его речи, а в незнакомом языке мы сильно ограничены. К чему я клоню со своей вроде бы затянувшейся болтовней? Да к тому, что, стремясь высечь из мертворожденных устройств искру разума, мы столкнулись со многими трудностями. Остановлюсь на некоторых.
Ныне системам передачи данных не хватает самоконтроля. Модемам все равно, передают они на весь сетевой мир изображения святых, или изображения голых задниц, или формулы производства взрывчатых веществ. Им все равно, а мы с этим смирились, поскольку люди имеют малоприятную привычку вкушать именно плоды запретные, в силу их непристойности, а то и смертельно опасные. Но прошу учесть: если в сетях появится настоящий жизнеспособный «искусственный интеллект», то тем самым возникнет и возможность фильтрования, сдерживания, отсева и аннигиляции информации, поскольку интеллект, состоящий в близком родстве с разумностью, может и даже должен быть в состоянии установить цензуру, заслон некоторым видам информации. И вот окажется, что существует уйма разного рода интеллектов и что тем самым разные страны, разные режимы, вероисповедания, мировоззрения и взгляды начнут использовать навыки «нейтрализации или уничтожения» той информации, на которую они накладывают табу, поступления, доставки которой к тем или иным адресатам они не желают. Сейчас (к примеру), чтобы оградить детей от созерцания картинок, транслируемых с помощью электроники (скажем, по TV), папа и мама могут установить на телевизор «электронный намордник», узнав из анонса о содержании передачи, которая должна появиться. Если такой приставки они не поставят, то никакой «антинепристойной» цензуры сам по себе телевизор не создаст. Итак, окончательно «цензурируют» изображения или тексты отец с матерью, либо дядя с тетей, либо воспитатель, но не электронные машины. Их совратить невозможно. А вот искусственный разум должен, а не только может демонстрировать свою активность и селективный отбор. Его можно развратить, можно в том или ином переубедить, можно дезориентировать, обмануть, одурманить или научить, можно что-то объяснить ему. Фундаменталисты чрезвычайно обрадовались бы, завладей они AI. Уже не потребовалось бы, как в Иране, просто запрещать установку спутниковых тарелок и антенн… Не так уж далеко то прошлое, когда Советский Союз объявил создание глобально действующих спутниковых ретрансляторов угрозой типа casus belli[10]. Я не выдумал этого специально, ради настоящих рассуждений. Советского Союза уже нет, искусственного интеллекта — пока нет, но могу заверить читателей, что одновременно с его появлением наступит новая эра, насыщенная новыми, доселе неведомыми опасностями. Не всех восхищает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, искусственный интеллект не скажу что сможет взять нас за жабры, но ввести в заблуждение, обмануть, сбить с пути он сумел бы. Это во-первых. Во-вторых, как мозги у всех людей разные, так не может быть и одинаковых (вплоть до тождества) интеллектов. Как существуют двигатели разной мощности, так разным по силе может быть и искусственный интеллект. Это не приведет сразу к производству машинным путем Эйнштейнов или — как в моей повести — «Големов». Возможно, возникнут интеллекты разного рода, основанные на различных «типах характеров». Я лично считаю, что «разумность» и «индивидуальность» — это потенциально разные по смыслу понятия. Но такое потенциальное разделение тоже не может сослужить нам добрую, и только добрую, службу.
Хочу заметить, что я по-прежнему крайне далек от примитивных мифоподобных сказок об «античеловечном», «злобном интеллекте», таком, который будет развивать у роботов человеконенавистнические или бунтарские настроения. Не следует сразу все видеть в самых мрачных тонах, которые как раз легче всего себе вообразить. Искусственный интеллект способен принести и пользу, и вред, поскольку таковой была и остается судьба любого технологического новшества, которое люди смогли изобрести и пустить в дело.
Лично я добавлю уже только на полях (однако это связано с главным направлением моих выводов), что мы ныне являемся свидетелями того, как происходит на свете рост чисто технологической подготовки, четко соотносящийся с продолжающимся увяданием свободно-творческого воображения. Это наблюдается не только в телевидении, но и в изобразительных искусствах. Недавно по спутниковому каналу я увидел некие обуглившиеся останки человеческих тел, однако то были никакие не жертвы пожара или геноцида, а «произведения современного искусства», как я тут же узнал из сопроводительного текста. В моде также визуализированная научная фантастика. К сожалению, однако, убогость воображения ее творцов резко контрастирует с богатством технико-визуального оснащения. С интеллектом внетехнологического и вненаучного порядка дело обстоит очень и очень плохо. Я сам некогда сочинял science fiction и стремился минимализировать нарушение элементарных и хорошо нам известных законов природы. Не принято писать, что жена откладывает яйца, а ее муж их высиживает. А в картине «День независимости» проигнорировано и попрано в угоду кассовому успеху кинематографистов огромное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, громадные корабли extraterrestials[11] не могут зависнуть над Манхэттеном, потому что при таком приближении к Земле будет пересечена так называемая граница Роше. В результате любое достаточно большое тело будет разорвано гравитационными силами планеты. Стоит ли добавлять, что ни о какой «компатибильности» компьютеров с иной планеты из другого созвездия с земными компьютерами очередного нового поколения не может быть и речи. Скорее я признал бы правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Говоря простым языком, кинематографисты пудрят нам мозги. А упомянул я об этом потому, что человеческий разум возник, чтобы мы способны были познавать ИСТИНУ. Что, впрочем, тем самым и означало: разум не застрахован от ошибок, он может ЛГАТЬ, стать жертвой обмана, — но иначе он ничего и не сможет осуществить. Интеллект — это материя, возникающая в процессе естественной эволюции и восходящая по ступеням «лестницы прогресса» (на Земле) вплоть до уровня языкотворчества, а тем самым уже способная породить и математику. Тогда появляются и оппозиции между правдой и ложью, рождается логика, возникает стихия новой сверхживотной свободы и сверхживотных предрассудков и суеверий во главе с астрологией, или сайентологией, или каким-либо иным сектантством. Еще более высоких ступеней интеллекта можно достигнуть с помощью генов — но можно и отдалить от них, вплоть до так называемого умственного кретинизма и полного идиотизма. Все это побочные эффекты становления разума, и я не думаю, что компьютерная непогрешимость в качестве неотъемлемого свойства может быть присуща и искусственному интеллекту. Мир способен обойтись и вовсе без разума, как естественного, так и искусственного. В то же время следует твердо усвоить, что такое чрезвычайное богатство самых разнообразных, рекламируемых как самые наиновейшие серверно-провайдерно-компьютерно-программно-дисковых приспособлений обязано своим непрестанным лавинообразным умножением прежде всего погоне за барышами, образующимися от
