Штамм «Андромеда». Человек-компьютер

ПОМОЧЬ?
ДА, Я ХОТЕЛ БЫ ТЕБЕ ПОМОЧЬ.
ВОЗЬМИ КОШКУ.

Ричард поморщился. «Джордж» и «Марта» были запрограммированы на неприязнь к кошкам. Давая кошку «Джорджу», 'Марта' выражала крайнюю враждебность.

СПАСИБО.
ВОЗЬМИ ЕЩЕ КОШКУ.
СПАСИБО, ТЫ ОЧЕНЬ ЛЮБЕЗНА.
ВОЗЬМИ ЕЩЕ КОШКУ.
НЕТ, СПАСИБО.
ТЫ НЕ ЛЮБИШЬ КОШЕК?
НЕТ, НО МНЕ ДОСТАТОЧНО КОШЕК.
ВОЗЬМИ ГОРИЛЛУ.

— Да, действительно, — сказал Ричардс. — А как в прошлые разы?

— То же самое, — сказал Герхард.

— Так же плохо?

— Абсолютно то же.

Они давно привыкли к мысли, что конечный результат взаимодействия компьютеров непредсказуем. Общую форму взаимодействия предугадать было можно, однако конкретные результаты прогнозированию не поддавались. Положение было примерно таким же, как и с компьютером, играющим в шашки: вероятнее всего, он должен выиграть, но всякий раз это будет по-разному, в зависимости от ходов противника.

МНЕ НЕ НУЖНА ГОРИЛЛА.
РАЗВЕ ТЕБЕ НЕ НРАВЯТСЯ ГОРИЛЛЫ?
НЕТ, СПАСИБО.
ТЫ СЛИШКОМ ВЕЖЛИВ.
ИЗВИНИ, ЕСЛИ Я ТЕБЯ ЧЕМ-НИБУДЬ ОБИДЕЛ.
ТЫ СЛИШКОМ МНОГО ГОВОРИШЬ.
ИЗВИНИ.
ВОЗЬМИ БАКЛАЖАН.

Ричардс следил за диалогом с интересом. Для 'Святого Джорджа' слово «баклажан» по программе не имело никакого эмоционального смысла. Но он не любил огурцы и бананы.

НЕТ, СПАСИБО.
ТЕБЕ НЕ НРАВЯТСЯ БАКЛАЖАНЫ?
НЕ ОСОБЕННО.
ВОЗЬМИ ЕЩЕ БАКЛАЖАН.
НЕТ, СПАСИБО.
Я ХОЧУ, ЧТОБЫ ТЫ ВЗЯЛ ЕГО.
НЕТ, СПАСИБО.
НЕТ, ВОЗЬМИ ЕГО.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
НЕТ, СПАСИБО.

— Что случилось с 'Джорджем?' — спросил Ричардс. — Он отвечает слишком уж одинаково.

— Это меня и беспокоит.

— А что в программе могло бы его так завести?

— Я это как раз и искал, когда ты вошел.

Я ТРЕБУЮ, ЧТОБЫ ТЫ ВЗЯЛ ОГУРЕЦ.
Я ОТКАЗЫВАЮСЬ.

— Джордж! — машинально воскликнул Ричардс.

ТОГДА ВОЗЬМИ БАНАН.
НЕТ.

— 'Джордж' не выдержал, — сказал Ричардс. — Он уже больше не святой.

ТОГДА ВОЗЬМИ И БАНАН И ОГУРЕЦ.
НЕТ, СПАСИБО.
Я ТРЕБУЮ.
ИДИ К ЧЕРТУ. Я УБЬЮ ТЕБЯ

Экран заполнился белыми точками.

— Что это означает? Непечатный ответ? — спросил Ричардс.

— Не знаю. Раньше я ничего подобного не видел.

— Сколько раз прогоняли эту программу?

— Сто десять раз. С 'Мартой'.

— Огрехи обучения?

— Нет.

— Черт меня побери, — сказал Ричардс. — Джордж превращается в раздражительного святого. — Он усмехнулся. — Это можно записать.

Герхард кивнул и вернулся к печатающему устройству. Теоретически ничего непонятного тут не было. «Джордж» и «Марта» были запрограммированы на обучение через опыт. Подобно шахматным программам, где мастерство машины растет с числом сыгранных игр, эта программа была рассчитана на то, что машина будет «учиться» реагировать по-новому. И вот после ста десяти экспериментов 'Святой Джордж' вдруг перестал быть святым. Хотя он был запрограммирован на святость, в отношениях с «Мартой» он научился не быть святым.

— Я прекрасно его понимаю, — сказал Ричардс и выключил компьютер. Затем он присоединился к Герхарду, и они вместе стали искать ошибку, из-за которой все это стало возможным.

Четверг 11 марта 1971 года