сложную комбинацию инстинктов, эмоций и стимулов, максимизирующих возможность передачи наших генов следующему поколению — процесс, который взвалил на нас разнообразные цели, включая желание побеждать, властвовать и управлять. И хотя у нас для желания побеждать могут быть вполне обоснованные эволюционные причины, машинам до этого вообще нет дела. Они просто манипулируют нулями и единицами в соответствии с программой, составленной людьми, которые хотят побеждать. На кой черт системе искусственного интеллекта захватывать мир? Что ей с ним делать?
А вот что действительно страшно, так это идея о сущности, обладающей сверхчеловеческим интеллектом и скоростью, а также нашей мотивацией, другими словами, о людях, у которых есть доступ к мощным системам искусственного интеллекта. Впрочем, умные приматы с ядерным оружием не менее страшны, а мы пока как-то сумели выжить в таком мире. Искусственный интеллект сам по себе не страшнее атомной бомбы — это инструмент, и бояться надо не его, а его создателей или владельцев.
Человеческая культура — первый искусственный интеллект
Для меня сущность ИИ заключается не в сложных программах, гуманоидных роботах, тесте Тьюринга или надеждах и опасениях, связанных с добрыми или злыми машинами. Я думаю, что важнейшей проблемой в отношении ИИ является вопрос о том, существуют ли мысли вне сознания, и машины — не единственный пример того, что такое возможно. Я думаю о человеческой культуре и других, не обладающих самосознанием, формах коллективной идеации[85].
Культура — это древнейшая созданная людьми форма разума, существующего вне нашего интеллекта. Как и разум в машине, культура может решать определенные задачи. Кроме того, как и разум в машине, она создана нами, мы взаимодействуем с нею и находимся под ее влиянием, она даже способна уничтожить нас. У культуры своя логика, у нее есть память, она может пережить своих создателей, может быть гибкой и подстраиваться под новые задачи, а также побуждать к определенным действиям.
Это оксюморон, но я рассматриваю культуру как вид естественного искусственного интеллекта. Он искусственный, потому что создан людьми. Он естественный, потому что присутствует везде, где есть люди, и органически связан с нами. На самом деле наша биология и наша культура, вероятно, тесно переплетены и эволюционировали совместно, так что культура влияет на гены, а гены влияют на культуру.
Люди — не единственные представители животного царства, у которых есть культура. У многих видов животных есть проявления культуры, связанные с коммуникацией и использованием инструментов, — пение у птиц, например, или использование губок дельфинами. У некоторых видов даже есть своя фармацевтика. Недавние исследования показывают, что новые культурные формы могут создаваться и закрепляться и у других видов, а не только у людей.
Мышление вне сознания у нас и у других животных проявляется и иным образом: группы насекомых и птиц производят вычисления, комбинируя собранную многими особями информацию, чтобы определить положение гнезд или пищи. Один из простейших организмов на Земле, миксомицет Physarum, может в строгих лабораторных условиях демонстрировать подобие интеллекта — проходить по лабиринтам или выполнять другие вычислительные задачи.
Этим природным ИИ можно управлять в условиях эксперимента. Группа исследователей из Японии использовала стаи крабов-отшельников для создания простой вычислительной схемы. Основываясь на определенных элементах поведения крабов, ученые построили в лаборатории систему, в которой крабы обычно давали предсказуемый отклик на вводимые данные. Стая действовала как подобие компьютера, то есть их поведение служило совершенно новой цели. Аналогичным образом мы с Сэмом Арбесманом как-то использовали одну особенность поведения человека для создания так называемого логического вентиля «ИЛИ-НЕ» и разработали человеческий компьютер (ужасно медленный) в рамках своеобразного исследования по синтетической социологии. Мы придали людям качества компьютера, вместо того чтобы наделить человеческими качествами машины.
Изучая наше отношение к культуре, мы поймем, каким может быть наше отношение к искусственному интеллекту. С культурой у нас сложились отношения любви-ненависти. Мы боимся ее силы, например когда религиозный фундаментализм или фашизм подталкивает большие группы людей к деструктивным поступкам. Но мы также чтим ее, потому что она способна на то, на что неспособны мы как отдельные индивиды, например обеспечивать коллективное действие или выдвигать предположения, на которых мы можем строить свою жизнь. Кроме того, мы обычно воспринимаем культуру как нечто само собой разумеющееся; точно так же мы воспринимаем зарождающиеся формы искусственного интеллекта и, скорее всего, будем воспринимать его развитые формы. Коэволюция генов и культуры может даже дать нам модель того, как мы и мыслящие машины будем сосуществовать много веков — оказывая взаимное влияние друг на друга и вместе совершенствуясь.
