Если мы не можем понять даже того, как мыслит двухлетний ребенок, или, раз уж на то пошло, ребенок, которому два дня от роду, машины, мыслящие как люди, не появятся еще несколько десятилетий. Но когда мы все же создадим машины, способные «думать», каким будет их мышление? Ответ на этот вопрос определит будущее человеческих сообществ.
Когда машины действительно начнут мыслить, первым делом мы избавимся от тяжелого физического труда; прощайте каждодневная готовка, походы за продуктами и в особенности уборка. Скоро мы опять окажемся в таком мире, где у богатых или образованных людей (тех, у кого есть доступ к новейшим технологиям) снова появится больше свободного времени.
Если машины когда-нибудь будут способны к сложному человеческому мышлению, то они также будут способны писать программы, выполнять значительную часть нашей работы, а возможно, даже создавать для нас произведения искусства. Но что тогда делать обычным людям? Появляется мрачная перспектива стать зомбированными потребителями в мире, которым правят машины, — картинка прямо из апокалиптического фильма про будущее.
Но есть и куда более оптимистичный прогноз: мы сможем больше времени уделять тем вещам, которые мы все время откладываем. Мы сможем чаще играть с нашими детьми и заниматься их обучением, больше общаться с родителями, выстраивать более надежные социальные сети из настоящих людей. Мы сможем больше времени уделять своим увлечениям, чаще подниматься в горы, осваивать новые навыки просто ради удовольствия. Мы сможем сосредоточить свою энергию на важных проблемах, до которых сейчас руки не доходят из-за рутинных дел и всяческих мелочей: на счастливой жизни, на самосовершенствовании и созидании справедливого мира — для людей и для умных машин.
Если машины мыслят как люди, людям придется хорошенько подумать о том, как реализовать эту последнюю перспективу. На одном позитивном мышлении нам до нее не добраться.
«Простите за беспокойство»
В незапамятные времена если мы хотели что-то узнать, то у нас не было иного выбора, кроме как обратиться к кому-нибудь за разъяснениями. Помню, когда я стал постарше, то часто спрашивал мать о значении незнакомых мне слов, и она всегда отвечала, лишь с долей иронии: «Я что, похожа на словарь?» Не думаю, что она рассчитывала стать аллегорией ИИ, но она привила мне смутно сознаваемое ощущение, что невежливо спрашивать у человека из плоти и крови то, что можно легко узнать, обратившись к предмету.
Так было несколько десятков лет тому назад. В настоящем мы тоже подсознательно усвоили этот принцип. Когда мы спрашиваем у кого-то дорогу, то обычно в явной или неявной форме выражаем следующую мысль: «Простите, что низвожу вас до уровня Google, но у меня сел телефон, поэтому мне нужно задать вам один конкретный вопрос». Это нарушение этикета, сродни тому, чтобы попросить кого-нибудь побыть в роли пресс-папье или книжной полки.
Я наблюдал такие нарушения и в разговорах: один человек хочет узнать у другого некий не очень известный факт — число, дату, фамилию, — в общем, задает такой вопрос, который мог бы встретиться в телевизионной викторине, и его собеседник кривится или отмахивается. Выражение его лица так и говорит: «Я не знаю. У вас ведь есть телефон? К вашим услугам весь интернет, а вы оскорбляете меня, тратите мое время, используете меня». Не зря же у нас появилась эта броская фраза: «Давай я погуглю за тебя»[109].
Судя по всему, есть еще задачи, с которыми справляется лишь мозг — только в нем хранится релевантная информация и опыт, а потому у нас нет иного выбора, кроме как побеспокоить этот мозг, когда нам что-то нужно. «Как тебе последние цифры?», «Думаешь, Смит блефует?», «Кейт понравится ожерелье?», «Меня это не полнит?», «Каковы шансы?..» Подобные вопросы вполне могут показаться неприличными в XXII веке. Для них нужен разум, но подойдет любой разум, а потому мы обратимся к тому, который будет ближе.
В романтической комедии «Скажи что-нибудь», вышедшей в 1989 году, есть незабываемая сцена, в которой Айони Скай возвращается к Джону Кьюсаку, признается ему в любви и просит прощения. «Один вопрос, — говорит он. — Ты здесь потому, что тебе нужен
Когда мы, люди, выходим из кинотеатра, музея или со спектакля, мы всегда задаем друг другу один и тот же вопрос: «Ну, ты что думаешь?» Он станет одним из немногих, которые переживут зарождающийся ИИ. Мы просто будем чаще выделять курсивом «ты», а не «думаешь».
