что ради этого были готовы на прямое столкновение с армией. И обратите внимание, возле Острова, вне зоны отчуждения, последнюю неделю, маячит фрегат, дружественного нам блока. Именно в это время. Это уже далеко не шутка. Вне нашей компетенции, конечно... Но здесь явно торчат забугорные уши!
– То есть, вы полагаете...
– Теперь я уже практически уверен. Простите, что перебил вас. Мы позволили себе излишнее благодушие. Мы допустили брак в работе – не придали должного значения связи между утратой разработки, пропажей дрона и вскрытым «кротом» в одно и то же время. Нам всем, видать, очень повезло, что «разработка» просто так в руки не даётся, кому попало. По всей видимости, либо ей кто-то до сих пор управляет, либо... Либо приходится признать наличие у неё, свободы воли.
– Вы имеете в виду – разум? Не слишком ли фантастично?
– Я сказал – «либо». Кибернетика отрицает возможность возникновения разума на созданных при теперешнем уровне развития электронных устройствах. Даже на всех этих «нано». Скорее я готов поверить в наличии здесь человеческой воли.
– Да, надо признать, вы убедительны в своих выкладках. И что вы теперь предполагаете предпринять? Задержать нашего пострела и допросить?
– Ни в коем случае! У него не должно возникнуть, даже малейшего подозрения в том, что его друзьям может угрожать опасность с нашей стороны. Никакого давления! Это очень опасно! Мы рискуем потерять то, что пока ещё не получили.
– Но, если всё, о чём вы так страстно говорили, верно, мы должны немедленно прочесать всю западную часть Острова. Найти этих... эти разработки и вернуть их в лабораторию. Вы же знаете, над нами довлеет долг.
– А вы не спешите докладывать обо всём в полном объёме. Оставьте себе место для манёвра. А там, глядишь, всё и прояснится. Тем более, что у вас есть прикрышка – операция официально поручена СБ ДР.
– Вы прекрасно понимаете, что такая «прикрышка» ни от чего не спасёт.
– Да, конечно. Но смягчит! И пряник уж больно хорош – под вашим мудрым руководством, проведена сложнейшая операция по выявлению крупной сети промышленного шпионажа...
– Никак не ожидал увидеть в вас подхалима. Шутка. Я так понимаю, вы возлагаете на меня, всю тяжесть принятия непростого решения? Ну, что ж... Мы тут посовещались, и я решил. Операцию... Кстати, под каким названием она войдет в анналы?
– Ну, я думаю – «ЧД».
– Хм... Не возражаю. Итак. Операцию «ЧД» продолжать. Поддержку СБ ДР осуществлять. В разумных пределах, конечно. Сами должны понимать. Администрации Западных Уделов вынести строжайшее порицание и предупредить о недопустимости подобных эксцессов в дальнейшем. Непосредственную разработку полагаю поручить нашему резиденту. Надеюсь, вы не против, такого с моей стороны контроля?
– Разумеется.
– Ну и... Вы водку пьёте?
– Разумеется!
– Ну, тогда, за победу!
– За нашу победу!
– Хе-хе, а вы тоже шутник... По второй?
3
Ранним утром воскресенья, Алекс лежал на диване в зале с маленькой баночкой лёгкого, светлого в руке и переваривал двадцать восемь маленьких сибирских пельмешек. С уксусом, с перчиком, с горчичкой. Переваривал, прихлёбывал пивко, вспоминал вчерашний день и смотрел телевизор. Как раз шла очень интересная передача. Два умных дядьки беседовали друг с другом на тему – может ли машина мыслить. Интеллигентного вида ведущий время от времени задавал вопросы из подготовленного заранее списка, морщил высокий лоб и ослепительно улыбался, изо всех сил стараясь придерживаться установленного сценария. Но умных дядек ему было не свернуть, ибо сели те видать на своих любимых коньков, вошли в раж и не обращали никакого внимания, ни на ведущего, ни на телезрителей. Они вели научный диспут. Они говорили много значительных слов технического значения и постоянно приводили друг другу массу невероятных примеров из таинственной жизни машин. Они всё время что-то доказывали друг другу, с чем- то соглашались, что-то опровергали, а что-то превозносили. Они были в азарте. И простым глазом видно было, что они любят и хорошо знают своё дело. И говорят о нём очень проникновенно и убедительно. Настолько убедительно, что даже самому бестолковому телезрителю уже было ясно, что ни одна, даже самая сверх навороченная компьютерная железяка, ни за что в жизни не пройдёт тест английского математика Алана Тьюринга, который разработал его именно для того, чтобы эта самая железяка сидела себе на своём месте и даже не помышляла сравнивать себя с создавшим её венцом творения.
«А вот интересно, – подумал Алекс, отхлебнув в очередной раз из банки, – а чёрные дроны сумеют пройти тест Тьюринга? Или нет?»
Кажется, смысл его в простом виде состоит в том, чтобы, разговаривая удалённо по телефону или как-нибудь ещё с компьютером, человек не мог определить, с кем он беседует – с человеком или машиной. Человек-эксперт может задавать любые вопросы из любой сферы человеческого бытия, а компьютер должен изо всех сил изворачиваться, чтобы его не поймали на нечеловеческом образе мышления.
И тут один из дядек, привел в пример интересный курьёзный случай. Во время очередного тестирования, группа экспертов до такой степени загрузила мозги группе испытуемых (из которых лишь один был искусственный интеллект, а все остальные – обычные люди с заданием скрывать своё происхождение), что у одного человека реально съехала крыша. И он сам, добровольно признался в том, что компьютер именно он. Довольные эксперты, потирая руки, прервали тест, в полной уверенности, что им снова удалось не пропустить ещё одного недостойного претендента на высокое право называться разумным.
«Вот-вот, – отхлебнув, подумал Алекс, – от наших дел у кого хочешь крыша съедет. Вместе с шифером. Нет, чёрт возьми, обязательно задам Кубу что-нибудь этакое, каверзное, чтобы он непременно запутался. Только вот, одна незадача – он и сам не хочет скрывать, что он не человек. Вот как тут определить, может он мыслить или нет, если сразу известно, что он компьютер? Или, к примеру, если человек будет изо всех сил изворачиваться, и показывать, что он не человек, сумеем ли мы доказать, что он именно человек, а не компьютер, или инопланетянин какой-нибудь? Что в таком случае, мешает мыслящему ИИ свалять такого же «ваньку», чтобы никто не догадался, что он давно уже мыслит. Почему-то априори считается, что это компьютер непременно должен нам что-то доказывать. А если оно ему не надо? А если он не хочет, чтобы мы догадались, что он мыслит? Этот случай Тьюринг предусмотрел, или нет? Да- да, дела...»
И тут дядьки начали стращать – возьмём ли мы на себя такую огромную ответственность, чтобы создать машинный разум, который мыслит отличными от человека категориями. Поскольку не является гуманоидным. И чего доброго возьмёт и подвинет нас с пьедестала царя природы. И станет нас обижать, притеснять, захватывать в рабство или даже вообще уничтожит.
«Старая фишка, – усмехнулся Алекс, дохлёбывая лёгкое светлое. – Тут ответ простой – читайте Азимова «Я – робот». Этот гениальный мыслитель чётко сформулировал основные законы взаимодействия ИИ со своими создателями. И на эту тему сказано и пересказано уже море всего. Только не смотрите одноимённое кино».
«Это же просто, – размышлял он дальше, – если своим, созданным искусственно, братьям по разуму, начать с «детства» совать в качестве игрушек пистолеты, то из них и вырастут бандиты – роботы- убийцы. А больше никто. Например, американцы боевых роботов клепают, для участия в военных конфликтах, вместо себя, любимых. И учат их убивать людей. И если в один «прекрасный» день, эти
