мыслимые изображения, аудиофайлы или истории, а также много такого, о чем раньше нельзя было и помыслить. Те варианты, которые мы игнорируем, отбраковываются. Все, за что цепляется глаз, репостится с небольшими изменениями и эволюционирует до такого состояния, при котором может максимально долго удерживать наше внимание.
Неудивительно, что мы не в силах оторваться от экрана. Медийный контент эволюционирует, чтобы стать для нас интереснее, как снеки и фастфуд эволюционируют, чтобы стать соблазнительнее. Многие сейчас злоупотребляют социальными сетями так же, как калорийной едой. Мы уминаем информационные конфетки, как шоколадные.
Возьмем мыслящие машины. Они тоже эволюционируют. Они станут изменяться более быстро и более радикально, когда программное обеспечение будет не разрабатываться, а видоизменяться, становясь лучше, в ходе отбора с небольшой изменчивостью. Однако до тех пор пока наши мозги эволюционируют совместно с машинами, движущей силой этого отбора останутся наши предпочтения. Те машины, что соответствуют им наилучшим образом, будут развиваться дальше, не до некой сингулярности, но до того состояния, когда станут партнерами, выполняющими наши желания, плохо это или хорошо.
Многие представляют себе компьютеры будущего холодно-объективными, но никто не любит всезнаек. Люди предпочтут скромных, вежливых помощников, которые ведут себя очень субъективно. Наши машины не будут противоречить глупостям, которые мы говорим, они ненавязчиво намекнут: «Любопытная идея, но вы ведь наверняка думали, что…» Вместо того чтобы предоставить объективную спортивную статистику, ваша машина будет вместе с вами болеть за вашу команду. Если вас остановят за превышение скорости, ваша машина обвинит во всем полицейского и извинится за то, что включила слишком быструю музыку. Машины, которые ворчат и хвастаются, будут вытеснены машинами, которые восхищаются нашими способностями, даже если сами их и усиливают. Они будут нас горячо поддерживать, разделять наше мнение и подводить к новым идеям так тонко, чтобы мы и не догадались, что не сами до них дошли.
Подобные отношения с машинами, отличаясь от отношений с реальными людьми, окажутся тем не менее продолжительными и бурными. Поэты и ученые десятилетиями будут сравнивать первые и вторые, даже когда искусственные интеллекты уже станут нашими доверенными и ценными спутниками. Реальным людям будет тяжело конкурировать с ИИ, но все же придется. Для этого потребуется вести себя еще более просоциально. Процесс селекции, сформировавший такие человеческие качества, как альтруизм и мораль, может ускориться — ведь людям придется соревноваться с машинами за статус более интересного и предпочтительного партнера. На самом деле, если взглянуть на гостиные, в которых каждый член семьи погружен в собственный виртуальный мир, то можно прийти к мысли, что с машинами уже довольно сложно конкурировать.
В краткосрочной перспективе проще всего соревноваться с компьютерами за наше внимание и любовь будет собакам. После нескольких тысяч лет отбора они стали как раз тем, чего мы хотим, — любящими спутниками, верными, всегда готовыми с нами поиграть и услужить нам. Они пребывают в блаженном неведении о том, для чего нужны телефоны и планшеты. Станут ли компьютеры чем-то вроде мыслящих и говорящих собак? Можно на это надеяться. Но сомневаюсь, что наши машины когда-нибудь будут мохнатыми и теплыми, что будут смотреть преданными глазами, выпрашивая лакомство, и лезть под руку, чтобы их погладили, или проситься погулять. Мы еще очень долго будем предпочитать собак. Все-таки глубочайшее удовлетворение происходит не от того, что другие делают для нас, а от того, что нас ценят за сделанное для других.
Мыслящие машины и тоска
Впервые возможность подумать о том, как мыслящие машины способны повлиять на жизнь человека, выпала мне на лекции, которую несколько десятков лет назад читал профессор информатики на коллоквиуме отделения психологии в Йельском университете. Темой лекции было: «Как повлияет на самооценку и благополучие людей то, что компьютеры смогут делать все лучше: обыгрывать чемпионов по шахматам, писать великие симфонии?»
«Хочу сразу уточнить две вещи, — сказал докладчик. — Во-первых, я не знаю, смогут ли машины когда-нибудь делать все это. Во-вторых, я единственный человек в комнате, у которого есть право на собственное мнение по этому вопросу». Последнее утверждение было встречено вздохами и нервными смешками.
Прошло несколько десятилетий, и вот компьютеры способны на многие из тех удивительных вещей, которые упоминал докладчик, — в этом не остается никаких сомнений, и, боюсь, ответ на вопрос о том, что? их достижения будут означать для человечества, таков: машины нас совершенно деморализуют и оставят не у дел. Я расстроился, когда Deep Blue обыграл Гарри Каспарова в шахматы. Я мгновенно впал в депрессию, когда IBM Watson, его наследник, обошел своих соперников в Jeopardy! и, конечно, мы знаем, что машины уже умеют писать композиции, которые поразили бы самого Джона Кейджа!
