действия.
Для того чтобы принять решение, нужна эмоция — нужно желать одного исхода больше другого, а желание в сущности своей эмоционально. Внутреннее терзание, которое мы переживаем как «желание», является результатом деятельности субкортикальных мозговых цепей в лимбической системе и базальных ядрах, в частности в миндалевидном теле и прилегающем ядре, которые активизируются в ответ на сигналы о том, что определенный стимул может привести к желательным или нежелательным результатам. Информация от этих образований в конечном счете поступает в вентромедиальную префронтальную кору — общий нервный проводящий путь, связывающий между собой несоизмеримые варианты выбора и выработку окончательного решения.
Когда мы говорим, что некоторое решение — это как «сравнение яблок с апельсинами», мы не имеем в виду, что принять его невозможно. Людям несложно решить, предпочитают они яблоко или апельсин, пиво или вино, пиццу или буррито. Имеется в виду, что у нас нет рациональной, объективной основы для того, чтобы сделать выбор, нет числовой формулы, которая обуславливала бы его. Поэтому люди, принимающие решения, опираются на смутное и квалитативное ощущение того, что желают одного варианта больше, чем другого. Это ощущение является репрезентацией активности нашей префронтальной коры, работающей совместно с подкорковыми эмоциональными мозговыми структурами, для того чтобы сравнивать различные варианты. Такие пациенты, как Эллиот, у которых эта способность утрачена, при попытке принять простейшее решение оказываются в безвыходном положении. Поскольку Эллиот не в состоянии сгенерировать внутреннее ощущение желания, у него не получается решить, чего бы он хотел на обед, на какой день записаться ко врачу или каким цветом отметить запись в календаре. В этом отношении он похож на людей, находящихся в глубокой депрессии и испытывающих состояние ангедонии. Такие пациенты целый день проводят в постели, поскольку ангедония лишает их способности ожидать, что нечто доставит им удовольствие или радость, — в результате они ничего не делают. Еще раз отмечу: их травма затрагивает именно эмоции.
Нам незачем бояться машин, которые мыслят, при условии, что они не чувствуют. Мышление может само по себе решать определенные задачи, но это не то же самое, что принимать решения. Нейробиология говорит, что сущность, неспособная сгенерировать ощущение желательности одного исхода или нежелательности другого, останется безучастной к любому выбору, идет ли речь о гражданских правах, власти или о чем-то еще. Поскольку такая сущность в каком-то смысле ангедонична, она навсегда останется прикованной к постели, а не стремящейся к восстанию. Нейробиологи пока так мало знают о том, как именно возникает в мозге субъективное переживание, еще меньше — о субъективном ощущении эмоции, что это ощущение, наверное, в ближайшее время не удастся воспроизвести в машине.
А если все-таки удастся, то нам нужно будет действовать осторожно. Люди не только испытывают эмоции, но и могут понимать чужие чувства и, что еще важнее, заботиться о том, что чувствуют другие. Это явление, вероятно, возникло как часть древней нейронной конструкции, которая заставляет родителей заботиться о своих уязвимых детенышах, вместо того чтобы бросить или съесть их. Эмпатия роднит нас с другими млекопитающими и с птицами; именно она отделяет социального дельфина от акулы-одиночки. Оба существа способны чувствовать, но только дельфин может сочувствовать другим. В результате мы ожидаем совершенно разного поведения от акул и от дельфинов. Хотя и те и другие — свирепые хищники, дельфины часто защищают уязвимых пловцов-людей, иногда даже от акул. Если мы пытаемся создать машины, которые могут чувствовать, а следовательно, принимать решения и совершать основанные на таких решениях действия, мы обязательно должны обеспечить их способностью сочувствовать другим — мы должны создать механических дельфинов, а не акул — если надеемся выжить среди них.
Двигатели свободы
Разумные машины будут думать о том же, о чем думают разумные люди: как построить себе лучшее будущее, сделав себя свободнее.
Зачем думать о свободе? Последние исследования в различных областях науки говорят, что разнообразные виды деятельности, выглядящие разумными, могут быть просто физическим проявлением лежащего в их основе стремления к максимизации свободы действия в будущем. Например, разумный робот, держащий некий инструмент, поймет, что может с его помощью изменить свое окружение и создать тем самым больше потенциальных состояний будущего, чем существовало бы, не имей он такого инструмента.
Технологические революции всегда давали человеку больше свободы в определенном физическом измерении. Аграрная революция с ее окультуриванием зерновых дала нашим предкам, охотникам-собирателям, новую свободу — увеличить плотность и ареал расселения популяции. Промышленная революция принесла новые средства передвижения, обеспечив человечеству доступ к новым уровням скорости и мощности. Теперь революция искусственного интеллекта обещает дать нам машины, способные вычислить все оставшиеся способы расширения нашей свободы действий в пределах законов физики.
