предназначены для выслеживания и убийства людей. Несложно вообразить себе будущих роботов-солдат, задачей которых будет распознавать солдат противника (людей) и уничтожать их с безошибочной эффективностью. При этом придется принимать чрезвычайные, невообразимые меры, чтобы гарантировать, что военные роботы не обернутся против своих хозяев. К примеру, беспилотный роботизированный самолет Predator управляется дистанционно, так что все его действия постоянно контролируют люди, но когда- нибудь самолеты-беспилотники, вероятно, станут автономными и получат возможность самостоятельно выбирать и поражать цели. Сбой в системе управления такого автономного самолета может вызвать катастрофические последствия.
В будущем, однако, все большая доля финансирования в разработку роботов будет поступать из гражданского коммерческого сектора, особенно в Японии, где назначение роботов — помогать, а не разрушать. Если такая тенденция сохранится, дружественный ИИ действительно может стать реальностью. В этом сценарии в робототехнике со временем возьмут верх потребительский сектор и рыночные силы, так что вкладывать деньги в дружественный ИИ станет чрезвычайно выгодно.
Слиться с роботами
В дополнение к дружественному ИИ существует и другой вариант: слиться со своими созданиями. Вместо того чтобы просто ждать, пока роботы превзойдут нас в интеллекте и мощи, нам следует улучшать себя и становиться сверхлюдьми. Я считаю, что будущее будет двигаться по обоим этим путям, т. е. человек будет создавать дружественный ИИ и одновременно совершенствоваться.
Этот вариант исследовал, в частности, Родни Брукс (Rodney Brooks), бывший директор знаменитой Лаборатории искусственного интеллекта МТИ. Он всегда был бунтарем, сражался с общепринятыми, но косными представлениями и вносил в эту область свежие идеи. Когда он только пришел в робототехнику, там безраздельно господствовал подход «сверху вниз». В результате в робототехнике наблюдался застой. Брукс вызвал немало удивленных взглядов, когда призвал к созданию армии насекомоподобных роботов, которые обучались бы на основе подхода «снизу вверх», т. е. натыкаясь на препятствия. Он не хотел делать еще одного тупого неуклюжего робота, которому требовалось бы несколько часов, чтобы пересечь комнату. Вместо этого он придумал проворных «инсектоидов», которые почти не требуют предварительного программирования, но быстро учатся передвигаться и ориентироваться среди препятствий методом проб и ошибок. Он предвидит наступление дня, когда его роботы и подобные им будут исследовать Солнечную систему, натыкаясь в пути на всевозможные препятствия. Эта идея, высказанная Бруксом в очерке «Быстрые, дешевые и себе на уме», на первый взгляд кажется странной и даже нелепой, но со временем такой подход привел к раскрытию целого спектра новых путей развития. В частности, одним из побочных результатов его идеи стали марсианские роверы, которые уже много лет бороздят поверхность Красной планеты[10]. Стоит ли удивляться, что Брукс был также президентом компании iRobot, продающей сегодня всюду напоминающие жуков роботизированные пылесосы.
Брукс считает, что одна из проблем ИИ состоит в том, что исследователи, как правило, хватаются за новые веяния и работают в рамках текущей парадигмы, вместо того чтобы думать по-новому и искать новые пути. Он вспоминает, к примеру: «В детстве у меня была книга, в которой мозг описывался как телефонный коммутатор. Еще более ранние книги описывали мозг как гидродинамическую систему или паровой двигатель.
Затем, в 1960-е, мозг стал цифровым компьютером. В 1980-е — цифровым компьютером с параллельной шиной. Вероятно, сейчас можно отыскать детскую книжку, где говорится, что мозг очень напоминает Всемирную паутину…»
Так, некоторые историки отмечают, что на психоанализ Зигмунда Фрейда повлияло появление парового двигателя и конкретно паровоза. Вообще, возникновение в Европе сети железных дорог в середине — конце XIX в. серьезно сказалось на мышлении интеллектуалов. По Фрейду, в сознании человека существуют потоки энергии, которые непрерывно конкурируют с другими потоками, и все это напоминает движение пара в паровозных паропроводах. А тот факт, что подавление этих энергетических потоков может вызывать неврозы, аналогичен тому, что паровой двигатель при закупорке клапана может взорваться.
Марвин Мински признался мне, что существует еще одна парадигма, которая уже много лет уводит исследователей ИИ в сторону и затрудняет развитие. Дело в том, что многие исследователи искусственного интеллекта пришли в эту область из физики и испытывают чувство, известное как «зависть физиков», — желание отыскать единственный принцип, лежащий в основе всякого разума. В физике ученые вслед за Эйнштейном стремятся представить физическую Вселенную в виде нескольких обобщающих уравнений и, возможно, отыскать короткое уравнение, которое объединило бы всю Вселенную единственной универсальной и понятной идеей. Мински считает, что «зависть физиков» побуждает исследователей ИИ искать универсальную базовую формулу и для сознания, — а на самом деле единой формулы или единого принципа не существует! Мински по крайней мере в этом убежден. Эволюция случайным образом объединила в один клубок множество самых разных структур и технологий, которые мы сегодня называем сознанием. Разберите мозг на составные части, и вы найдете набор слабо связанных между собой мини- мозгов, каждый из которых предназначен для выполнения конкретной задачи. Мински называет это «союзом сознаний» и говорит, что на самом деле человеческое сознание — это сумма множества отдельных алгоритмов и техник, которые случайно возникли и были подхвачены эволюцией и которые природа за миллионы лет объединила в единую систему.
Родни Брукс тоже искал похожую парадигму, но такую, которую никто и никогда еще до конца не исследовал. Вскоре он понял, что мать-природа и эволюция уже решили большую часть наших проблем. К примеру, комар, у которого в мозгу содержится всего несколько сотен тысяч нейронов, способен легко обойти любую, в том числе самую лучшую военную роботизированную систему. В отличие от наших беспилотных самолетов, комары, мозг которых по размеру намного уступает булавочной головке, способны независимо ориентироваться в пространстве, огибать препятствия, находить пищу и партнера. Почему не поучиться у природы и биологии? Посмотрев внимательнее на ступени эволюционной лестницы, нетрудно понять, что в насекомых и мышей никто не закладывал законы логики и здравого смысла. Только метод проб и ошибок позволил им завоевать мир и овладеть искусством выживания.
Теперь Брукс разрабатывает еще одну теоретическую идею, изложенную в его статье «Смешение плоти и машин». Он отмечает, что старые лаборатории MIT, когда-то разрабатывавшие полупроводниковые компоненты для промышленных и военных роботов, теперь закрываются, уступая дорогу новому поколению роботов, в состав которых будут входить не только кремний и сталь, но и живые ткани. Он предвидит появление абсолютно новых роботов совершенно новой архитектуры, в которой соединятся биологические и электронные системы.
Брукс пишет: «Я предсказываю, что к 2100 г. всюду в нашей повседневной жизни будут встречаться весьма умные роботы. Но и мы не останемся независимыми от них — скорее, мы сами будем отчасти роботами и будем при этом неразрывно связаны с роботами».
Он считает, что путь к этому будет постепенным. В настоящее время уже идет революция в протезировании, электронные компоненты вживляются непосредственно в тело человека, чтобы обеспечить реалистичную замену слуху, зрению и другим биологическим функциям. К примеру, искусственная «улитка» уже произвела переворот в аудиологии и дала возможность возвращать слух глухим людям. Работа искусственных улиток состоит в том, чтобы подключать электронные устройства к биологической сети, т. е. к нейронам. Такой слуховой имплант состоит из нескольких компонент. Снаружи возле уха помещается микрофон. Он принимает звуковые волны, обрабатывает их и передает сигналы по радио импланту, хирургически размещенному внутри уха. Имплант принимает радиопослания, переводит их в электрические токи и отправляет дальше по проложенным в ухе электродам. Улитка распознает электрические импульсы и пересылает их в мозг. В таких имплантах может использоваться до 24 электродов, которых достаточно для обработки полудюжины различных частот. Этого, в свою очередь, достаточно, чтобы различать человеческий голос. На сегодня уже 150 000 человек во всем мире носят улитку-имплант.
Несколько групп ученых занимаются вопросом помощи слепым и создания системы искусственного зрения, которая позволила бы подключить камеру к человеческому мозгу. Один из предлагаемых методов
