Не исключено, конечно, что роботы все же осознают себя и обзаведутся опасными для нас целями, но, как вы видите, это маловероятно, особенно в ближайшем будущем. Ввести в машину все уравнения, необходимые ей для уничтожения рода человеческого, невероятно сложная задача. Чтобы устранить проблему роботов-убийц, нужно, по сути, не позволять никому запрограммировать их на цели, которые могут нанести вред людям. Когда осознавшие себя роботы все же появятся, мы должны будем добавить в их конструкцию отказоустойчивый чип, который просто выключит робота, если у него возникнут убийственные мысли. Мы можем спать спокойно, зная, что в обозримом будущем нас не поместят в зоопарки, где роботы будут бросать нам в клетку орешки, заставляя нас приплясывать.
Это означает, что при исследовании внешних планет и звезд мы можем положиться на роботов, которые помогут нам построить инфраструктуру, необходимую для создания поселений и городов в космосе. Тем не менее нам придется соблюдать осторожность и следить, чтобы их цели не противоречили нашим и чтобы у нас всегда имелись отказоустойчивые механизмы отключения на тот случай, если роботы вдруг станут опасны. Хотя опасность для нас с этой стороны возникнет не раньше, чем роботы осознают себя, а этого не произойдет до конца этого или начала будущего столетия, так что у нас есть время подготовиться.
Почему роботы сходят с ума
Тем не менее существует один сценарий, не позволяющий исследователям ИИ спокойно спать по ночам. Вполне можно представить ситуацию, в которой робот получит двусмысленную или неточно сформулированную команду, которая в случае выполнения послужит спусковым крючком катастрофы.
В фильме «Я, робот» показан центральный компьютер VIKI, управляющий инфраструктурой большого города. VIKI получает команду защищать человечество, но, изучив, как люди обращаются с другими людьми, компьютер приходит к выводу, что величайшей угрозой для человечества является само человечество. Он математически определяет, что единственный способ защитить человечество заключается в том, чтобы взять управление им на себя.
Еще один пример — легенда о царе Мидасе. Он просил бога Диониса дать ему способность простым прикосновением превращать все что угодно в золото. Казалось бы, такой дар — верное средство добиться богатства и славы. Но Мидас дотрагивается до своей дочери — и она обращается в золото. Пища тоже становится несъедобной. Царь оказывается рабом того дара, который он сам вымолил у бога.
Герберт Уэллс в рассказе «Человек, который умел творить чудеса» разбирает аналогичную ситуацию. В один прекрасный день ничем не примечательный клерк становится обладателем поразительной способности. Все, что он пожелает, сбывается. Однажды вечером он отправляется выпить с приятелем, творя по дороге чудеса. Им не хочется, чтобы так приятно начавшаяся ночь вдруг закончилась, и молодой человек, сам того не подозревая, желает, чтобы Земля прекратила вращаться. Внезапно на них обрушиваются яростные ветры и гигантские волны. Людей, здания и города выбрасывает в космос со скоростью вращения Земли. Поняв, что он только что погубил родную планету, несчастный испытывает последнее желание: чтобы все вернулось в норму и стало так, как было до обретения им невероятной способности.
Здесь научная фантастика учит нас осторожности. Развивая ИИ, мы должны скрупулезно проверять возможные результаты своих действий, особенно те из них, которые, возможно, не очевидны с самого начала. В конце концов, именно способность к такому анализу отчасти и делает нас людьми.
Квантовые вычисления
Чтобы получить более полную картину будущего робототехники, рассмотрим чуть подробнее то, что происходит внутри компьютеров. В настоящее время большинство цифровых компьютеров строятся на основе кремниевых интегральных микросхем и подчиняются закону Мура, который гласит, что каждые полтора года мощность компьютеров удваивается. Но в последние несколько лет технологическое развитие в этой области начало замедляться по сравнению с лихорадочным темпом нескольких предыдущих десятилетий, и кое-кто даже заговорил о крайнем сценарии, в котором закон Мура перестает действовать и серьезно подрывает мировую экономику, которая за много лет стала зависима от почти экспоненциального роста компьютерных мощностей. Если бы такое произошло, Кремниевая долина могла бы превратиться в очередной Фабричный, он же Ржавый, пояс Соединенных Штатов. Чтобы предотвратить потенциальную угрозу этого кризиса, физики всего мира ищут замену кремнию. Они работают над целым рядом потенциальных альтернативных компьютеров, включая молекулярные, атомные, оптические и белковые компьютеры, компьютеры на ДНК и квантовой точке, но ни один из этих вариантов еще не реализован.
Кроме того, в этом наборе вариантов имеется и темная лошадка. Кремниевые компьютеры становятся все меньше и меньше, и когда-нибудь, по идее, их размеры сравняются с размерами атомов. Сейчас в стандартной микросхеме Pentium толщина кремниевых слоев может соответствовать примерно 20 атомам. Еще в этом десятилетии толщина слоев, возможно, уменьшится до всего лишь 5 атомов, и в этом случае электроны начнут утекать из них, как предсказывает квантовая теория, порождая короткие замыкания. Необходим компьютер на каких-то новых принципах. Кремниевые микросхемы, в принципе, могут быть заменены молекулярными, возможно созданными на основе графена, но когда-нибудь даже у молекулярных компьютеров возникнут проблемы, связанные с эффектами, которые предсказывает квантовая теория. Тогда нам, вероятно, придется строить предельный — квантовый — компьютер, способный работать на крохотнейшем из возможных транзисторов: на единственном атоме.
Вот как он мог бы работать. Кремниевые схемы содержат так называемые ключи — элементы, которые могут быть либо открыты, либо закрыты для потока электронов. Информация хранится на основе таких открытых или закрытых контуров. Этот процесс описывает двоичная система счисления, основой для которой служат серии единиц и нулей: 0 может описывать состояние закрытого ключа, а 1 — открытого.
А теперь посмотрим, что произойдет, если заменить кремний рядом отдельных атомов. Атомы подобны крохотным магнитам, у которых есть северный и южный полюса. Когда атомы помещают в магнитное поле, они указывают, как можно было бы предположить, либо вверх, либо вниз. На самом деле каждый атом указывает и вверх, и вниз одновременно до тех пор, пока не произведено окончательное измерение. В каком-то смысле каждый электрон может одновременно находиться в двух состояниях. Это противоречит здравому смыслу, но именно так обстоит дело в реальности, если верить квантовой механике. Преимущества такой системы огромны. Если магниты ориентированы в одном определенном направлении, в них можно хранить определенное количество информации. Но если каждый магнит представляет собой смесь нескольких состояний, то в крохотную группу атомов можно поместить гораздо больше информации. Каждый «бит» информации, который может быть равен или 1, или 0, теперь становится «кубитом» — сложной смесью единиц и нулей, вмещающей намного больше данных.
Главное в квантовых компьютерах — то, что они могут дать нам ключ к
