Что мы думаем о машинах, которые думают

сознания и чувств. И здесь данных, информации, даже знаний, вычислений, памяти и восприятия, недостаточно. Для того чтобы мыслить, машине нужно быть любопытной, креативной и общительной. Сомневаюсь, что она такой станет. По крайней мере, в ближайшее время. Но цикл будет завершен, только когда машины научатся беседовать: формулировать, излагать и перефразировать вопросы, на которые пока могут только отвечать, что для нас уже удивительно.

Машины, которые мыслят, — это отличная идея. Как и машины, которые двигаются, готовят, воспроизводят себя, защищают нас, они могут сделать нашу жизнь проще и, наверное, даже лучше. И это окажется очень кстати. Подозреваю, что появление таких машин будет не столь драматичным и травмирующим, как представляется многим. Машина станет действительно мыслящей только тогда, когда она сможет нам о себе сообщить, а также воспринять, сохранить и обработать наши реакции. Подлинно мыслящая машина даже сумеет утешить получивших психологическую травму и облегчить их страдания.

Мыслящие машины будут достойны того, чтобы о них задумываться, то есть будут по-настоящему мыслить, когда действительно станут взаимодействовать. Другими словами, они будут по-настоящему мыслить, только когда сами убедительно заявят об этом, по собственной инициативе и, я надеюсь, после того, как обсудят это между собой. Машины будут мыслить в полном смысле слова, когда образуют свои сообщества и присоединятся к нашим. Если — и когда — машинам это потребуется и они сформируют связь, которая в достаточной мере заинтересует других, чтобы все с ними обсудить, они пройдут тест на мышление.

Обратите внимание, что эта планка выше, чем заданная Тьюрингом. Как и мышление, взаимодействие — такая вещь, которой занимаются не все люди, а из тех, кто занимается, у большинства получается не очень хорошо. Если — и когда — машины начнут взаимодействовать масштабно, продуктивно и активно (что возможно, но редко случается даже среди людей), у нас появится повод поволноваться или, как мне кажется, скорее порадоваться.

Машины, которые вычисляют, запоминают, даже творят и строят предположения, — это уже не новость. Машины начнут мыслить, когда начнут общаться. Они будут беседовать между собой, а также с другими разумными существами. Они будут автономно создавать сообщения и обмениваться ими в непрерывном потоке отношений, плодотворно и самостоятельно реагировать на внешние воздействия. Многие не сомневаются, что их домашние питомцы умеют и думать, и поддерживать отношения. Точно так же разумные синтетические устройства станут в наших глазах мыслящими, когда убедят рассмотреть и принять этот факт достаточно большое число людей.

Машин, которые говорят, обладают памятью, развлекают нас или летают, не так давно все боялись, а сейчас они никого не удивляют, не кажутся чем-то волшебным или исключительным. Создав мыслящие машины и экспериментально подтвердив факт их мышления, а также убедившись, что они не посягнут на исконно человеческие владения, мы разрушим еще один рубеж — коммуникативный. Последним рубежом может оказаться объединенное взаимодействие. И когда машины ему обучатся, они сами будут защищать свои интересы.

Ненаправленный интеллект

Эдвард Слингерленд

Профессор востоковедения кафедры восточной философии и воплощенного познания, Университет Британской Колумбии (Канада); автор книги «Старайтесь не стараться» (Trying Not to Try)

Я не думаю о них — разве что как о доказательстве того, что мышлению не требуется мистическое «нечто», о котором все еще продолжают с удовольствием рассуждать сторонники идеи дуализма разума и тела.

Я всегда недоумевал, почему некоторые боятся, что машины могут захватить мир; эти опасения основаны на фундаментальной (хотя и естественной) ошибке. Когда мы представляем сверхмощную мыслящую машину, то опираемся на ближайшую доступную нам аналогию — на себя. Поэтому мы склонны думать, что системы ИИ очень похожи на нас, только значительно умнее и быстрее.

Однако это плохая аналогия. Лучше представить себе очень мощную универсальную отвертку. Никто ведь не боится, что супернавороченные отвертки восстанут и ниспровергнут своих хозяев. Системы искусственного интеллекта — это инструменты, а не организмы. Неважно, насколько хорошо они справляются с диагностированием болезней или уборкой в гостиной, они в действительности не хотят ни того, ни другого. Мы этого от них хотим и потому встраиваем в них свои желания.

Спрашивать, над чем могли бы думать мыслящие машины, также было бы категориальной ошибкой. Они не думают над чем- то, поскольку «направленность» мышления происходит из интенциональных целей, являющихся для него стимулом. Системы ИИ сами по себе совершенно лишены интенций или целей. У них нет эмоций, они не испытывают ни сочувствия, ни обиды. Хотя такие устройства могут когда-нибудь воспроизвести наш разум — а каких-либо априорных доводов, свидетельствующих о том, что это невозможно, по-видимому, не существует, — их мышление будет лишено направленности, и ее придется задавать извне.

Мотивационная направленность — это результат естественного отбора, происходящего в биологических организмах. Естественный отбор выработал