Однако и здесь не все однозначно. Осуществить азимовский главный «закон робототехники» — не вредить людям — не так просто. Он упирается в качество воспитуемости: задавать ли возможность изменения «врожденной» характеристики чувств в процессе деятельности или нет, а если да, то в какой степени. Видимо, на этот вопрос нельзя ответить однозначно, потому что возможны разные сферы деятельности ИИ в человеческой среде. Несомненно одно — нельзя допускать излишнюю самоорганизацию искусственного интеллекта, иначе он может выйти из-под контроля людей.
Врожденные потребности-чувства значат для человека много, но не все. Речь и обучение создали возможность приобретать «искусственные чувства», являющиеся выражением потребностей более высокой разумной системы — общества. Как уже говорилось, убеждения — это словесные формулировки, их модели, обладающие значительной активностью и имеющие сильные связи с центрами интегральных чувств Пр — НПр. Они определяют, что можно, что должно, чего нельзя делать, что хорошо и что плохо. Содержание убеждения может быть крайне различным — от запрещения ругаться до отвлеченных идей, побуждающих их приверженцев к самоистязанию или преступлениям против общества.
Рис. 41. Схема формирования отношений и убеждений.
Формирование убеждений, их изменение в течение жизни в связи с условиями существования трудно формализовать. Тем не менее я сделал такую попытку применительно к некоторому условному интеллекту. Общая схема формирования отношений и убеждений показана на рис. 41.
Социальная среда условно представлена тремя источниками идей. Любых идей, которые выражаются словесными формулами, обращающимися к чувствам. Обычно источниками идей являются окружающие люди — вначале члены семьи, товарищи, учителя, потом — общественные организации, рабочие коллективы, наконец — книги. Но в данном случае не в этом дело, нас интересует схема. Понятие «воспитатель» и «воспитуемый» в равной степени относится и к ИИ.
Каждый из представителей среды, человек или группа людей, имеет свои симпатии и антипатии, свое отношение к носителю интеллекта. Это отношение он высказывает словами и поступками. Пока ограничим наше рассмотрение словами. Правда, наказания «голодом» и «болью» не исключены, учитывая, что «телесные чувства» будут представлены в ИИ обязательно.
На рис. 41 показаны притязания со стороны интеллекта в адрес своих оппонентов и воспитателей. Понятие это было уже дано. Повторяю: притязания подразумевают величину «платы», которую хотел бы получить интеллект от среды в ответ на свою деятельность с целью максимального удовлетворения своих потребностей. Притязания всегда превышают реальную «плату», потому что если они полностью удовлетворяются, то наступает адаптация чувства и для достижения их максимума нужно увеличивать «плату». Человек живет в условиях компромисса — его притязания всегда превышают «плату», не позволяя адаптироваться к счастью.
Притязания вызывают реакцию на них со стороны адресатов, которая тоже выражается словами и поступками (представьте пример из практики воспитания детей). Первый компонент отношения интеллекта к адресату зависит от этой реакции на его притязания.
Второй компонент — пожалуй, главный — определяется сравнением положения носителя интеллекта с положением соответствующих групп или лиц (снова — адресатами) с поправкой на его лидерство. Отношение высказывается, в ответ на него следует реакция, служащая обратной связью и воздействующая на отношение.
Так формируется система отношений (симпатия либо антипатия) к разным источникам идей —лицам, социальным группам в зависимости от результата сравнения положений, лидерства и обратной связи.
Отношения не исчерпываются только симпатиями и антипатиями, это еще и авторитеты, и их уровень. Именно они и определяют формирование убеждений.
На рис. 41 все источники идей объединены «полем идей». Оно включает в себя набор словесных формул, их «адрес» (источник) и интенсивность их повторения. Иначе говоря, «поле идей» — это содержание различных убеждений, которые циркулируют в общественной среде, окружающей интеллект. Какие формулы и в какой степени усваиваются — зависит от так называемой установки. Этот термин введен психологами для обозначения изначального отношения к высказыванию (слушать ли его, воспринимать ли, либо пропускать мимо ушей, как не стоящее внимания или заведомо ложное). Установка зависит от авторитета источника и от степени совпадения содержания идеи с уже имеющимся убеждением, созданным в предшествовавшие периоды жизни интеллекта.
В памяти развитого интеллекта (а мы говорим именно о таком, когда имеем дело с третьим уровнем сознания) имеется достаточный набор словесных формул, претендующих на роль убеждений,— это и есть все «поле идей» с указанием их адресатов. Некоторые из них уже стали своими убеждениями с определенной значимостью, то есть активностью и связями с чувствами. Внешнее воспитание изменяет эти убеждения на некоторую величину ?Уб, зависящую от установки и от интенсивности воздействий (например, от частоты повторения фраз и образов в средствах массовой информации).
Так осуществляется постепенный «дрейф» убеждений: в зависимости от авторитета тех, кто их проповедует, и от содержания уже достигнутых ранее убеждений.
Следует различать содержание убеждений и их значимость, то есть активность по сравнению с врожденными для человека или изначально заданными для ИИ чувствами. Например, можно принимать заповеди религии, но не придавать им особенного значения, и тогда они не могут конкурировать с потребностями, производными от инстинктов.
Убеждения и заданные чувства соединены прямыми и обратными связями: убеждения могут усиливать или тормозить чувства, а те в свою очередь участвуют в формировании убеждений. Проще всего внедрить в сознание те словесные формулы, которые совпадают с насущными потребностями. И наоборот, чем абстрактнее формулы, тем труднее их сделать значимыми убеждениями.
Очень сложно формализировать «поле идей», что необходимо при создании ИИ. В самом деле, существует огромное множество словесных формул, приобретающих значимость чувств, их трудно вместить в модель. Мне кажется, что нужно установить основные направления идей, сопоставить им специальные шкалы, выбрать на каждой шкале противоположные точки и приписать им численные значения со знаками + и —. Тогда промежуточную точку можно определять как координату по данному убеждению. Число таких шкал в первом приближении должно соответствовать основным чувствам: жадности, страху, общению, доброте, стремлению к лидерству, любознательности, лени. Люди тоже создают идеи по всем этим чувствам, и общество внушает их своим гражданам, формируя у них убеждения. Не буду разбирать особенности построения шкал по каждому убеждению, это относится к задаче моделирования общественных систем. В качестве примера можно сослаться на «шкалу жадности».
Координаты со знаком « + » характеризуют убеждения, связанные с отказом от вещей, координаты со знаком «—» характеризуют убеждения, оправдывающие собственность.
Следует остановиться на убеждениях, связанных со справедливостью — они, пожалуй, самые важные. Что считать справедливым. Мы уже обсуждали этот вопрос и ввели понятие условия справедливости (см. рис. 40). Обсуждаемые убеждения устанавливают эквиваленты обмена или «ранг ценностей» — труд, власть, вещи, информация. Фактически справедливость сводится к словесным формулам обмена: «что, кому, за что и сколько» давать, «от кого, что, сколько и за что» брать.
Формализацию убеждений для модели ИИ можно осуществить путем введения системы координат с нанесенными на них несколькими вариантами точек. Каждый вариант отражает убеждения, исходящие из определенного источника идей. Собственные убеждения искусственного интеллекта также будут представлены точками на сетке координат.
Убеждения формируются согласно схеме, показанной на рис. 38, как функция воспитания. Однако это происходит лишь в «детстве и юности» искусственного интеллекта, то есть в период его обучения. Приходит время, и уровень сознания ИИ повышается настолько, что он становится способным моделировать отдельно действия, высказывания, чувства и мысли — свои и других лиц (мысли и чувства других — по косвенным признакам их речи и мимики). Тогда наступает время самоорганизации или применительно к убеждениям — время самовоспитания. Убеждения (точки в упомянутой системе координат), высказываемые различными адресатами, сравниваются с их действиями и вводится поправка
