голоса, слышался мелодичный звон стекла.
Я шел с Гообаром к центру зала. Мы пробирались по узкому проходу. Все поднимались навстречу Гообару, улыбались, приглашали за свои столики. Он остановился растерянно, не зная, за какой из столиков сесть. Мне тоже, как спутнику Гообара, досталась частица всеобщего уважения, хотя я и не заслужил этого. От столика, за которым тесным кружком сидела молодежь, меня звал Нильс Ирьола, махая обеими руками.
Я подошел к нему. Молодежь собралась вокруг троих кибернетиков, среди них своим атлетическим сложением выделялся Тембхара; он и верховодил за столом. Кое-кто из молодежи сидел на подлокотниках кресел, другие стояли, прислонившись друг к дружке. Я попал в самый разгар горячей дискуссии и услышал конец речи стройного юноши:
— Но, собственно, почему нельзя использовать автоматы при высадке на неизвестную планету? Говорят, что мы пошлем туда ракеты, пилотируемые людьми.
— К сожалению, это необходимо, — отвечал Тембхара. — Ты же слышал поговорку: автоматы совершенны, но ограниченны, а люди хотя и не совершенны, но ограниченностью не страдают? Дело в том, что для автоматов характерна так называемая «направленная узость оценки обстановки». Автомат всегда несколько односторонен, потому что создан для выполнения определенных задач. А на чужой планете он может встретиться с незнакомыми ему существами и попасть в ситуацию, которую нельзя предусмотреть заранее. Если послать туда автоматы, они вполне могут ошибиться, и даже весьма опасным для нас образом.
— Что такое они могут натворить? Я не понимаю.
— Они могут поступить, как умственно больной человек, — сказал Тембхара. — Чтобы объяснить это, приведу пример из старого учебника кибернетики. Пример имеет только историческое значение, но это хорошая иллюстрация к тому, о чем я говорю. Сказка, в сущности. У одного человека квартира была завалена старыми глобусами и негодными кувшинами. Он поручил автомату убрать этот хлам, сказав следующее: «Выбрось отсюда все шарообразные предметы». Послушный автомат, дословно поняв приказ, вынес весь хлам, а заодно сорвал с шеи голову этого человека — принял ее всего лишь за шарообразный предмет, который тоже следует выбросить.
— Но это чепуха!.. Этого не могло случиться… Автомат не может причинить вред человеку!.. — хором воскликнули окружающие.
— Конечно, эта история на деле не могла произойти. Я привел ее только как яркий пример того, что можно бы назвать «недоразумением» между человеком и автоматом. Для нас многое самоочевидно, подразумевается, а для автомата нет ничего очевидного, кроме того, что вложил в него конструктор. Наши автоматы, например, снабжены устройствами, снимающими возможность их самоуничтожения, и предохранителями, которые делают невозможным нанесение какого-либо вреда человеку. Но в совершенно новой, не предусмотренной конструктором обстановке, в условиях чужой планеты они могут наделать много зла. Помимо этого есть еще один момент этического порядка: нам, наверное, не понравилось бы, если бы обитатели другой планеты прислали на Землю свору машин с задачей определить, стоит ли завязывать с людьми добрососедские отношения. — Тембхара улыбнулся, блеснув зубами.
— Скажи, профессор, — спросила какая-то девушка, — ты разрабатывал гироматы?
— Да. Вернее, участвовал в создании нескольких гироматов.
— Профессор Аверроэс говорил на лекции, что гироматы строятся вообще без проекта. Как это возможно? Объясни нам, если можешь.
— Попробую… — Тембхара задумался. — Лучше всего, может быть, это удастся на конкретном примере. Наше бюро перед вылетом с Земли разработало концепцию большого астрогиромата для Симеизской обсерватории. Это гигант особого назначения: он умеет создавать «математические модели звезд». Ему сообщают величины и факты, полученные в астрономических обсерваториях, а он на их основе воспроизводит жизнь звезды с момента ее возникновения до гибели, воссоздавая ее историю, форму, размеры, температуру, протекающие внутри звезды атомные реакции, ее орбиту, влияние на нее других небесных тел и, в свою очередь, ее влияние на эти тела — словом, может проследить за эволюцией любой звезды с абсолютной точностью и чрезвычайно быстро. Миллиард лет существования звезды машина «переживает» за какие-нибудь двадцать секунд. Конечно, такой гиромат не смог бы построить ни один человек в мире. Чтобы сделать необходимые расчеты и приготовить чертежи проектов, потребовалось бы не меньше тысячи лет, а может, и больше. Можно использовать счетные машины, но и это излишне, потому что есть несравненно более простой способ. Способ такой: прежде всего строится система автоматов, называемая базисной; этой системе мы ставим общую задачу постройки гиромата, то есть условия и сферу его действия и другие данные. Все это называется «направляющей установкой технологической программы гиромата». Затем снабжаем базисные автоматы строительным материалом и пускаем их в ход. Через небольшое время, а именно через пару месяцев, гиромат готов. Естественно, мы, проектировщики, не знаем ничего о тысячах и миллионах монтажных операций, анализах и расчетах, проделанных базисными автоматами. И не только не знаем, но совершенно ими не интересуемся. Так же нас не интересует в деталях и конструкция самого гиромата: он есть, действует, выполняет наши приказы, и все — больше нам ничего не нужно.
— Знаешь, профессор, — сказала стоявшая рядом со мной Майя Молетич, — я думаю, что тысячу лет назад инженер-конструктор назвал бы сумасшедшим человека, который сказал бы, что в будущем будут сооружать самые сложные конструкции без проектов.
— Не думаю. Я попытался бы разъяснить принцип такого строительства на понятном для него примере. Тогда применялись первые примитивные счетные машины. Так вот, инженера, который перемножал две цифры при помощи такой машины, совершенно не интересовали промежуточные этапы арифметического действия. Ему нужен был конечный результат — и ничего больше. Уже тогда стал применяться — правда, в зародыше — принцип, который можно сформулировать так: «Следует избегать бесполезных знаний». Таким бесполезным было бы детальное знакомство со всеми соединениями проводов в астрогиромате. Если бы кто-нибудь захотел составить список этих соединений, ему пришлось бы заполнить тысячи томов или трионов. Бессмысленная и никому не нужная работа. Наша техническая культура изобилует такой массой приборов, что, если бы мы хотели их изучить и знать так же детально, как люди знали раньше, например, конструкцию часов, мы бы утонули в океане совершенно ненужных описаний. Если бы не автоматизация, человечество уже тысячу лет назад вступило бы на путь все более узкой специализации каждой личности. Люди превратились бы в муравьев, и каждый выполнял бы крошечную часть общей работы, совершенно не представляя себе ее объема в целом. А автоматы не только усиливают человеческую мысль, как рычаги — силу руки человека, но и разгружают его от бремени излишних, нетворческих исследований и наблюдений, от их систематизации. Автоматы оставляют ему только самое важное, неповторимое, для чего нужны изобретательность, находчивость, сообразительность, интуиция, и так помогают создать новый тип человека, который, как главнокомандующий в древности, намечает главные направления атаки на неисследованные области, не отягощая свой ум балластом мелочей.
Тембхара умолк. Я сказал в наступившей тишине:
— Знаете, совсем маленьким мальчиком я бесконечно жалел о прошлом, когда произведения человеческих рук, подобно парусным судам, обладали индивидуальностью. Каждое было непохоже на остальные; я думал, что механизация производства навсегда устранила из нашего бытия уникальность человеческого творчества, но из слов Тембхары следует, что индивидуальность восстанавливается теперь — на другом, более высоком уровне! Если ты даешь базисной системе лишь основные принципы постройки, то любая построенная ею машина будет отличаться от другой в несущественных деталях, не предусмотренных инструкцией, не так ли?
— Конечно, так, — ответил Тембхара. — Это может относиться ко всяким частностям — например, к внешнему виду машины, монтажным особенностям, взаимному расположению агрегатов и так далее. Об одном из моих коллег, Иорисе, человеке очень рассеянном, рассказывают, что, строя гиромат, он сообщил базисной системе все данные, кроме одного — величины аппарата. Возвратившись через месяц на строительную площадку, он издали заметил какой-то массив, напоминавший пирамиду Хеопса и господствовавший над окружающей местностью. Немного обеспокоенный, он спросил у первого встречного автомата, закончен ли гиромат, и услышал в ответ: «Где там, только начали строить: изготовлен первый шуруп!»
