История говорит нам о том, что такое партнерство будет развиваться постепенно, оставаясь относительно незаметным для большинства занятых людей, живущих своей занятой жизнью. Но чисто теоретически давайте предположим, что сбылись наши худшие опасения, все вышло из-под контроля, и в какой-то момент мыслящие машины сбросили с престола Homo sapiens. Что тогда? Я не сомневаюсь, что мы так или иначе сумеем выдернуть вилку из розетки. Произойдет великий передел, и мы опять будем владеть землями, океанами и небесами. В зависимости от того, насколько велика окажется интеграция и высота падения, человечество может откатиться на тысячелетия назад, поскольку нам придется с нуля учиться тому, как самим добывать пищу и воду, строить жилища и транспорт без помощи мыслящих машин.
Мониторинг и управление планетой
В 1922 году математик Льюис Фрай Ричардсон описал большой зал, заполненный «вычислителями» — людьми, которые, поочередно выполняя по одному ручному вычислению, значительно усовершенствовали бы численное прогнозирование погоды. Меньше чем через 100 лет машины улучшили продуктивность в решении этой задачи на пятнадцать порядков и способны теперь производить почти миллион миллиардов схожих вычислений в секунду.
Рассмотрим для сравнения рост производительности в тяжелой промышленности. В 2014 году во всем мире было использовано около 500 эксаджоулей первичных энергоресурсов для производства электричества и топлива для транспорта и тепла. Даже если считать, что вся эта энергия пошла на выполнение физических задач примерно 3 миллиардов работающих людей во всем мире (а это не так), и предположить, что рацион среднестатистического взрослого человека содержит 2000 калорий в день, то мы получим около 50 «энергетических работников» на каждого человека. Более строгие допущения все равно ведут самое большее к повышению эффективности ручного труда на несколько порядков.
Мы чрезвычайно успешно ускоряем наши процессы мышления и обработки информации, значительно успешнее, чем любые другие. Есть надежда, что ИИ позволит нам резко повысить эффективность определенных когнитивных функций и начать справляться с задачами, сложность которых также на несколько порядков выше, чем ранее доступная для нас.
Кейнс, наверное, сказал бы, что такое повышение должно в конечном счете привести наше общество к состоянию полной занятости, при котором у всех будет больше свободного времени и более высокое качество жизни. Скептик бы счел это победой надежды над опытом. Хотя нет сомнений в том, что некоторые люди извлекут огромную выгоду из того, что делегируют свои задачи машинам, перспектива получить больше свободного времени благодаря автоматизации выглядит сомнительно, что может подтвердить любой современный работник, практически прикованный к тому или иному мобильному устройству.
Следовательно, если мы будем работать больше, лучше и эффективнее благодаря мыслящим машинам, важно с умом выбирать то, о чем они станут думать. В самом деле, разве не обидно развить весь этот интеллект, чтобы потом тратить его мощь на бесполезные вещи? Как всегда бывает в науке, выбор проблем, достойных того, чтобы их решали, оказывается более сложной задачей, чем поиск самих решений.
Сфера, где конвергенция между потребностью, актуальностью и возможностями по-настоящему велика, — это мониторинг ресурсов нашей планеты и управление ими. Несмотря на значительный рост когнитивной и трудовой производительности, мы пока не смогли существенно изменить наше отношение к Земле: мы все еще пользуемся ее ресурсами для того, чтобы делать товары, которые по окончании срока эксплуатации превращаются в мусор. Линейная экономика на планете с 7 миллиардами человек, стремящихся потреблять. Наше отношение к природе, может быть, и стало более продуктивным, но ненамного более разумным, чем 100 лет назад.
Понять, как на это реагирует планета, чтобы соответствующим образом поменять свое поведение, — сложная задача, решение которое затрудняется колоссальной нехваткой информации. Изменение климата, доступность воды, использование ресурсов океана, взаимодействие между экосистемами и сформированной человеком средой обитания — во всех этих вопросах наших вычислительных средств не хватает для предварительного анализа статистики, необходимого, чтобы понять, что же происходит, обработать экспоненциально возрастающие объемы данных о мире, который мы населяем, сформулировать и проверить теории о том, как мы могли бы делать привычные вещи иначе.
У нас на этой планете уже почти 7 миллиардов мыслящих машин, но они не слишком озабочены вопросами о том, как на ней удержаться. Лишь немногие могут увидеть всю картину и понять ее, и еще меньше тех, кто способен как-то повлиять на ситуацию. Приращение когнитивных возможностей, которые помогли бы выяснить, как нам фундаментальным образом изменить свои отношения с планетой, — это проблема, над которой стоит подумать.
