посредством клонирования, наделяться теми же правами, что и человеческие существа, произведенные традиционным способом? Конечно, будут. Вопрос о том, как человеческое существо приходит в мир, не столь актуален с точки зрения этики. Важнее то, что человек в этом мире есть, у него имеются желания, стремления и страхи, точно так же, как у всех остальных. Нам нужно принять лишь одно этическое решение: помогать этому человеку или препятствовать в реализации его устремлений.
Убежденность в том, что все переживания порождены мозгом, не только не угрожает человеческому достоинству, а напротив, помогает его сохранить. Когда я понимаю, что вы и я, в сущности, одинаковые мыслящие машины, заключенные в наших головах (и получившиеся, конечно же, в результате естественного отбора), то мне нужно сделать лишь один маленький шажок, чтобы прийти к важному этическому открытию: вы, вероятно, любите кое-что из того, что люблю я (еду, семью, теплую постель, свободу), и, вероятно, чувствуете боль по тем же причинам, что и я (из-за пыток, из-за смерти любимого человека, из-за порабощения детей). Как только я осознаю?, что мои устремления почти такие же, как и ваши, мне сложнее чувствовать свою правоту, если я топчусь по вашим устремлениям, одновременно требуя, чтобы вы уважали мои. На этом понимании строится натуралистическое обоснование всеобщих прав человека. Нам нет нужды утверждать, как делали отцы-основатели, что всеобщее равенство всех людей самоочевидно. Наука сделала его очевидным.
Но зачем останавливаться на людях? Раз вы понимаете, что мозг — это мыслящая машина, то причинение страданий животным вы тоже не сможете оставить безнаказанным. Все-таки мыслящие машины других позвоночных не так уж отличаются от наших; мыслящие машины заставляют их что-то любить, чего-то бояться и реагировать на боль так же, как реагируем мы. Тогда какое может быть моральное оправдание унижению достоинства животных просто потому, что они не способны ничего сказать в свою защиту?
Все мы хотим, чтобы к нам относились с уважением, но до сих пор было сложно найти универсально-обоснованный довод, чтобы этого требовать. Понимание того, что наш мозг — мыслящая машина, созданная в ходе естественного отбора, может хоть немного приблизить нас к цели, поскольку показывает, что мы в общем совершенно одинаковые. Эта идея никак не умаляет человеческого достоинства; напротив, благодаря ей мы заново открываем золотое правило нравственности, подойдя к нему с другой стороны.
Мысли о людях, которые мыслят как машины
Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Очевидно, что машины мыслят различными способами: инициируют события, обрабатывают данные, принимают решения, делают выбор и реализуют многие другие (но не все) аспекты человеческого мышления. Но настоящий вопрос заключается в том, могут ли машины мыслить как люди. Все тот же старинный тест для искусственного интеллекта: вы наблюдаете результат мышления и не знаете, принадлежит оно компьютеру или человеку.
Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Я не уверен, что эти страхи обоснованы. Меня больше беспокоит то, что миром могут управлять люди, которые мыслят как машины, — это главная новая тенденция нашего цифрового общества.
Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. При наличии хорошо сформулированных постулатов или аксиом чистая логика — козырь мыслящей машины. Но умение задавать вопросы и принимать решения, опираясь на здравый смысл, пока остается прерогативой людей. Сочетание интуиции, эмоций, эмпатии, опыта и культурного фона и способность использовать это все, чтобы ставить актуальные вопросы и делать выводы, объединяя внешне не связанные факты и принципы, — вот отличительные качества человеческого мышления, которых пока нет у машин.
Человеческое общество быстрыми темпами идет к правилам, инструкциям, законам, инвестиционным механизмам, политическим догмам и моделям поведения, которые слепо следуют строгой логике, даже если она основана на ошибочных посылках или очевидно противоречит здравому смыслу. Религиозный экстремизм всегда эволюционировал на основе неких абсурдных аксиом, из которых логически вытекали бесконечно трагичные следствия. Отдельные дисциплины, такие как юриспруденция, бухгалтерское дело и некоторые области математики и техники, под влиянием бюрократических структур и СМИ, благоговеющих перед жестким управлением, часто ведут к появлению непрозрачных принципов типа «полной прозрачности» и терпимому отношению к радикальным проявлениям нетерпимости. Этот тренд и ему подобные склоняют нас к решению задач более алгоритмическими и логическими методами, часто за счет здравого смысла. Если здравый смысл, как бы мы его ни определяли, описывает преимущества людей перед машинами, сегодня мы наблюдаем не что иное, как явное отдаление от этого инкрементного человеческого качества.
К сожалению, разрыв между человеческим и машинным мышлением можно сузить двумя способами, и, когда люди начинают мыслить как машины, мы автоматически достигаем цели «машины мыслят как люди», подходя к ней не с той стороны. Очень умный человек, который приходит к определенным
