Молох (сборник)

изнасиловал торт, можно было бы на это смотреть иначе. Это неплохой пример функционирования «случайного генератора», который должен изображать нам волевую деятельность. Она должна быть наделена каким-то смыслом. У бактерии, блохи или слона это будет смысл выживаемости, у человека, как говорилось, количество более или менее осмысленных поступков намного больше, мы знаем также слишком хорошо (к сожалению), что люди способны желать для себя вредные, безумные и даже убийственные вещи. Я не представляю себе, чтобы робот мог иметь почти беспредельную волевую составляющую, чтобы он мог владеть artificial intelligence, будучи освобожденным от сильных ограничений — как люди. Мы ведь находимся «в путах» определенных положений, моральных законов, установленных традициями или воспитанием, которые нас во многом сдерживают, так как если бы этого не было, то не было бы преград и тормозов в желаниях поедания или насилия.

11

Я упорно возвращаюсь к вопросу, каким образом мы могли бы наделить роботов «желаниями», подкрепленными определенными запретами и направляющими ориентациями. Это очень трудная проблема, и идея Айзека Азимова, содержащаяся в его трех законах «роботехники», — это чистейшая нереализуемая утопия. И выбросив за борт рассуждения всякой утопии, мы будем вынуждены подставить лоб различным антимониям жизни, поскольку существуют различно достигаемые цели, по-разному отягощенные аксиологически и вместе с тем НЕДОСТИЖИМЫЕ, и тогда обычный человек теряет голову (как говорится) или же, чтобы голову совсем не потерять, бросает монету, высматривая орла или решку. Проще говоря, он тогда сдается на милость судьбоносному механизму, полностью внешнему по отношению к нему и по результату абсолютно от него не зависящему. Но если бы роботы, приодетые в юридические тоги, заседали в каком-нибудь трибунале, намереваясь разрешить наши конфликтные дела, то мы были бы не в восторге, когда бы их приговоры зависели от чисто случайных механизмов.

12

Я уже давно писал о том, что есть ситуации, в которых sui generis волевая составляющая появляется или не появляется в зависимости от того, какой язык описания мы используем. Потому что, когда вирус приближается к живой клетке, происходит физико-химическое и биохимическое притяжение, мы получаем описание, где ничего не говорится о воле, а о том, ХОЧЕТ ли вирус вообще убить клетку или нет, — речи быть не может. Но вирус атакует клетку, вторгается в нее, притворяется, что в своем составе имеет те же гены, что и геном клетки, преобразуется — троянский конь и негодяй — в вирион, и вот мы уже имеем на сцене микродраму волевого проявления или хотя бы его зародыш.

13

Акты нашей воли всегда направлены в будущее. Поэтому пришло время поговорить об очередном препятствии для конструкторов роботов, ибо ни один компьютер не направлен в будущее. Хотя для того чтобы казалось, что все-таки направлен, программа для игры в шахматы содержит богатую вариантами оценку «состояний» шахматной доски, а коэффициенты ценности, приписанные СВЕРХУ различным ходам в соответствии с их дальнейшей последовательностью в игре, делают следующие шахматные ходы компьютера мало-мальски понятными и из-за этого квазиволевыми. Нам говорят, что возможных шахматных партий порядка 10⁹⁹, но ведь это конечное количество. Если бы мы послали «планетарную машину» на Титан (спутник Сатурна), мы сначала должны были бы составить таблицу тех событий, которые машина (робот) на Титане может застать и встретить. Но если окажется (сегодня вещь абсолютно неправдоподобная), что там есть какие-то Существа или Псевдосущества, мы не сможем обеспечить робота волевой осмысленностью поведения на чужой планете. Как заметил еще Витгенштейн, о чем невозможно говорить, о том следует молчать. В упомянутый выше «перечень событий» для робота трудно играть, поскольку может быть так, что sed tamen potest esse totaliter aliter. Но значит ли это, что при наличии непредвиденных ситуаций обязательно надо посылать ЛЮДЕЙ? Посылать можно, но гарантии успеха это не даст, поскольку и человек не является совершенным воплощением такой намеренности, которая во всем разберется, и такой волевой составляющей, благодаря которой будут выполняться исключительно оптимальные действия в незнакомых обстоятельствах. И, следовательно, как видим, ПОСТЕПЕННО возникает понятие «успешной волевой деятельности», и потому ученый, не сумев разгрызть очередную загадку Природы, падает на колени и просит Господа Бога о помощи или, осознавая, что суть загадки знает только Господь Бог, изменяет (этот ученый) научному методу, хотя при этом может быть очень религиозной личностью. Суть в том, что с момента апелляции к Господу Богу или к кому-то другому трансцендентному мы переадресуем НАШИ ПРОБЛЕМЫ Кому-то или Чему-то, отказываясь от собственной суверенности в познании. Также если бы планетарная робот-машина нам сообщила, что один Господь Бог знает, что где-то Там может быть, и по этой причине он, робот, отказывается от выполнения рискованной экспедиции, то этот робот не будет ни с конструкторской, ни с гносеологической точки зрения чего-либо стоить. Роботов, апеллирующих к Господу Богу, впрочем, было бы слишком легко создавать…

14

В затронутой здесь теме скрываются также многочисленные дальнейшие загадки, например, вопреки мнениям, мы не имеем понятия, для чего проявлению воли нужны ЭМОЦИИ (а они как-то необходимы). Для чего нужна интуиция (тоже очень нужна). Для чего нужны сны (то же самое можно сказать) и т. п. Цифровое (либо иное) моделирование нам проясняет не слишком много вопросов из-за типичной для него моноцифровой (нумерационной) линейности. Мы еще не разобрались во всех разумах, включая и собственный.

15

Присматриваясь к нашим собственным, человеческим поступкам, легко можно заметить, какие причины порождает то, что называется рассеянностью. Вот, подозванный к телефону, я откладываю книгу, а вернувшись, не могу ее найти, и после мучительного поиска оказывается, что я «машинально» поставил этот том на полку. «Машинально» здесь означает не что иное, как «бессознательно». Поскольку сознание постановку книги в ряд других на стеллаж не «заметило», и память этого не записала, я обречен на потерю времени, вызванную поиском. Итак, перед нами появляются очередные «сущности», а именно «сознание» и «память». «Умный робот» должен тогда обладать и тем, и другим. Память без сознания не нужна et vice versa.[144] Сложности растут и избежать их нельзя. Робот, вооруженный аналогами органов чувств, заметит акт постановки книги на полку и запомнит его. Однако означает ли это, что он обладает сознанием и памятью так, как мы? Я сомневаюсь. Нам дана довольно сильно ограниченная делимость внимания. Робот здесь может быть более способным, я в этом не сомневаюсь, но что это имеет общего с сознанием? Когда я неподвижно отдыхаю, например, в постели перед тем как заснуть, отдавая себе полностью отчет о положении тела, я могу, кроме того, «посылать» мое предсонное сознание, например, к любой ноге, к рукам, к уху, и я знаю, что каждый