вызывала 'отрицательные эмоции' именно у системы. Представляете — вы вносите исправление в продиктованный текст, а ваш 'Дракон' жалобно попискивает от обиды и переживаний за свою некомпетентность (а может, так оно и есть?)!
В природе существует два механизма совершенствования поведенческих реакций (в нашем примере — это вывод в текстовой форме продиктованного и распознанного материала). Для простейших организмов — это, в основном, принцип естественного отбора, когда наиболее адекватно реагирующие на окружающую среду особи оказываются и наиболее плодовитыми, а сами реакции закрепляются в генетическом коде. Для наиболее развитых представителей и, соответственно, для более сложных поведенческих реакций основным становится механизм мотивации за счет эмоций. Уже не просто физическая боль, чувство голода или стремление к размножению, но и весь мир страданий и радостей — часто по совершенно не понятным на первый взгляд причинам — становится той силой, которая движет человеком (или не только человеком?) по пути самообучения и развития.
Вспомним Книгу Иова (глава 5): 'Но человек рождается на страдание, как искры, чтоб устремляться вверх'. Вопрос только в том, положительная или отрицательная мотивация (кнут или пряник) преобладает в каждой конкретной жизни. Обычно приходится иметь дело с обоими вариантами, а вообще — кому как повезет…
Из этого следует, что, кроме неадекватности мировосприятия, вторым отличием современных систем искусственного интеллекта является отсутствие стимулов или мотивации для развития как на индивидуальном, так и видовом уровне. Но это отличие является вполне преодолимым.
Если говорить о развитии на видовом уровне, то уже известны 'мутирующие' вирусы, которые хотя и не являются интеллектуальными в полном смысле, но зато уже вполне способны в процессе естественного отбора в искусственной среде передавать своим 'потомкам' наиболее зловредные черты, препятствующие их отлову.
Вопрос мотивации или создания стимулов к развитию на эмоциональном уровне также является вполне разрешимым. Для этого достаточно понять, что эмоция, положительная или отрицательная, — это всего лишь, соответственно, положительная или отрицательная обратная связь, свойственная любому автоматическому устройству. Поясню: отрицательная эмоция, или отрицательная обратная связь, — это процесс, в котором заложено стремление к его прекращению. Соответственно, и положительная эмоция, или положительная обратная связь, — это процесс, несущий тенденцию к своему продолжению или многократному повторению. Варианты их технической реализации многочисленны, и практически любое устройство — от классического сливного бачка с поплавком и клапаном до современного электрочайника — содержит в себе несколько примеров обратных связей. Естественные же и природные системы буквально насыщены их всевозможными вариантами. Важно отметить, что, в отличие от отрицательной, положительная обратная связь всегда склонна к насыщению, то есть прекращению своей 'положительности' с течением времени или после повторения нескольких циклов. Это является принципиальной особенностью. Чисто житейский вывод — страдание бесконечно, а удовольствие всегда ограниченно ('вечный кайф' недостижим). Так что в приведенной цитате из Книги Иова, к сожалению, больше правды, чем нам хотелось бы. Да и кто когда-нибудь слышал, чтоб удовлетворенный и довольный субъект создал что-нибудь достойное внимания, кроме как в области кулинарии?
Внутренние противоречия, конфликты и неудовлетворенность всегда были нормой в творческой среде. Можно попытаться вывести общую закономерность о преобразовании количества неудовлетворенности и страдания в импульс развития, но категории являются слишком общими и расплывчатыми. Одно ясно — Господь Бог посредством применения теории эволюции и теории игр в полной мере оснастил нас комплексом взаимоисключающих желаний и связанными с ними переживаниями для нашего же развития на благо общего прогресса. Причем мера персональных страданий каждого из участников процесса значения не имеет и заслугой не является, а что является конечной целью этого самого прогресса — одному Богу ведомо. Как это очевидное положение совместить с образом Христианского Бога, любящего и всепрощающего, мне пока не ясно. Может, кто на форуме разъяснит. У Ирины Богушевской на эту тему есть замечательная песенка со словами: 'Небесам все равно, что будет с нами'… Поэтическое и научное восприятие мира часто приводят к одинаковым выводам.
Но вернемся к нашим баранам и 'Драконам', обладающим некоторыми признаками интеллекта. А что если для стимуляции обучения, по примеру Господа Бога, поступившего так с нами, дать им возможность безграничного страдания и кратковременной радости?
Оказывается, подобная работа уже ведется. В качестве стимула выбрано элементарное чувство голода, или — поясню для тех, кто не знает, что это такое, — физиологическое ощущение возможного прекращения существования при отсутствии некоторых внешних компонентов. Речь идет об уникальной серии 'Гастророботов', извлекающих электроэнергию из переработки белков и углеводов в специальном биореакторе. Первой машиной в ряду вечно голодных творений человека является 'Жуй-жуй' (Chew Chew), сконструированный Стюартом Вилкинсоном (Stuart Wilkinson) в Университете Тампа (Южная Флорида). Сам изобретатель считает мясо идеальным кормом для своего создания, однако пока 'Жуй-жуй' ест кусочки сахара, так как при этом, на радость лаборантам, он оставляет минимум 'фекалий'. Основной стратегией робота является изучение окружающей среды — вполне реальной, с целью обнаружения и потребления пищи. Адекватность восприятия окружающего мира является достаточно условной и достигается при помощи ультразвуковых сонаров. 'Жуй-жуй' пока не сможет подкрасться к вам незаметно, так как состоит из трех вагончиков на колесах, длиной около метра каждый, и похож на поезд детской железной дороги. Постоянное чувство голода — его нормальное состояние, так как аккумуляторы требуют непрерывной подзарядки. Продолжением проекта должна стать подводная машина, питающаяся рыбой и предназначенная для патрулирования побережья и защиты купающихся от акул. Как бы здесь программисты не ошиблись и не создали реальные стальные 'челюсти', ведь пловец более легкая добыча, чем акула и автономный 'Жуй-жуй' может легко переучиться в 'Кус-куса'. А какие мысли будут в его вечно голодных электронных мозгах, когда он будет наблюдать беззащитного 'Творца', проплывающего вверху, на поверхности?
Несомненно, что развитие науки и технологии в области искусственного интеллекта создает целую группу вопросов, требующих своего решения. Среди них есть и морально-этические проблемы. Причем голодающий, жаждущий мяса 'Жуй-жуй' — пожалуй, не самая главная из них. Некоторые из них мы рассмотрим в последующих статьях цикла.
Сейчас же я хотел бы сформулировать вывод, который, возможно, поможет вам по-иному взглянуть на окружающие предметы, животных и людей.
Он заключается в следующем — почти все, что находится рядом с вами, наделено в той или иной мере способностью к отражению мира, к страданию или радости и демонстрирует некоторые признаки интеллекта, далеко не всегда искусственного, а чаще — вполне естественного происхождения. То, что вы их не замечаете, не означает, что их нет. Просто они не совместимы с вашим уникальным восприятием мира.
Может, не так уж и не правы индуистские монахи и последователи некоторых древних учений, одушествляющие все окружающие предметы и наделяющие их способностью 'мыслить', страдать и
