Короче говоря, пришествие искусственного интеллекта может оказаться для человечества и наивысшим благом, и наивысшим злом. Риск, связанный с ним, – не в злом умысле, а в компетентности. Сверхразумный искусственный интеллект может оказаться исключительно хорош в достижении своих целей, но если эти цели не станут совпадать с нашими – у нас возникнут проблемы. Вероятно, вы не настолько ненавидите муравьев, чтобы давить их ногой при каждом удобном случае, но если вы руководитель проекта по строительству экологически чистой гидроэлектростанции, а в зоне затопления окажется муравейник – увы, тем хуже для муравьев. А теперь поставим человечество в положение этих муравьев. Мы должны смотреть вперед. Если высокоразвитая внеземная цивилизация пришлет нам сообщение «мы появимся в ближайшее время», сможете ли вы ответить «хорошо, дайте знать, мы оставим свет в гостиной»? Скорее всего, нет. Но именно так может произойти с искусственным интеллектом. Мало кто всерьез интересовался этой темой, за исключением очень немногих некоммерческих организаций.
К счастью, сейчас ситуация стала меняться. Такие интеллектуалы, как Билл Гейтс, Стив Возняк и Илон Маск, разделяют мои опасения. В сообществе, связанном с созданием искусственного интеллекта, начинает укореняться здравая культура оценки рисков и информирования о социальных последствиях. В январе 2015 года я с Илоном Маском и многими другими экспертами подписал открытое письмо, посвященное искусственному интеллекту, призывая к серьезному изучению его влияния на общество. Ранее Илон Маск предупреждал, что сверхчеловеческий искусственный интеллект может принести неисчислимые прибыли, но при неосторожном использовании окажет противоположное действие на человечество. Мы с ним – члены научно-экспертного совета института «Будущее жизни», организации, занимающейся предупреждением экзистенциальных рисков, грозящих человечеству, которая и инициировала это открытое письмо. В нем звучит призыв заняться конкретными исследованиями того, как мы можем предотвратить возникновение потенциальных проблем и одновременно воспользоваться всеми благами, которые сулит нам развитие искусственного интеллекта. Мы призываем всех специалистов и исследователей в области искусственного интеллекта уделять больше внимания вопросам безопасности. Цель письма – проинформировать, а не напугать широкую общественность и политиков. Мы считаем очень важным дать понять, что все, кто занимается искусственным интеллектом, должны серьезно отнестись к этим опасениям и этическим проблемам. Например, искусственный интеллект обладает потенциалом покончить с эпидемиями и нищетой, но специалисты должны думать о том, чтобы системы искусственного интеллекта оставались под контролем.
В октябре 2016 года я также открыл в Кембридже новый центр в попытке затронуть некоторые открытые вопросы, возникающие в связи с быстрым развитием технологий в области искусственного интеллекта. Центр изучения будущего интеллекта «Леверхульм» (The Leverhulme Centre) – междисциплинарная организация, занимающаяся исследованием перспектив развития интеллекта как важнейшего фактора для будущего цивилизации и нас как вида. Значительное время мы уделяем изучению истории, которая, надо признать, преимущественно является историей глупости. Приятное разнообразие вместо изучения будущего интеллекта. Мы сознаем потенциальные опасности, но, возможно, благодаря достижениям новой технологической революции сумеем даже исправить некоторый вред, который нанесла природе индустриализация.
Последние достижения в развитии искусственного интеллекта привели к тому, что Европарламент призвал к разработке законодательства, регулирующего создание роботов и систем искусственного интеллекта. Немного удивительно, но речь зашла даже о понятии «электронной личности», определяющем права и ответственность наиболее продвинутых автономных роботов. Один член Европарламента отметил, что, поскольку роботы начинают играть все более заметную роль во многих областях нашей повседневной жизни, необходимо гарантировать, что они являются и всегда будут являться помощниками человека. В докладе, представленном в парламенте, говорится, что мир – на грани новой индустриальной революции роботов. В нем обсуждается, можно ли наделить юридическими правами роботов как электронных личностей – наряду с юридическим определением корпоративных личностей. Но в нем также подчеркивается, что разработчики роботов обязаны предусмотреть в любой системе кнопку аварийного отключения.
Это не помогло ученым на борту космического корабля в фильме Стэнли Кубрика «Космическая одиссея 2001 года», когда дал сбой разумный компьютер ЭАЛ, но это – художественное произведение, вымысел. Мы же имеем дело с фактами. Лорна Бразел, консультант международной юридической фирмы Osborn Clark, говорит в докладе, что мы не наделяем правами личности китов и горилл, поэтому нет необходимости спешить с определением личности роботов. Но осторожность чувствуется. Доклад признает возможность того, что в ближайшие десятилетия искусственный интеллект может превзойти интеллектуальные способности человека и оспорить нынешние отношения между человеком и роботом.
К 2025 году в мире будет примерно 30 мегаполисов с населением более 10 миллионов человек. Когда все эти люди пожелают получать товары и услуги в любое удобное для них время, поможет ли нам технология соответствовать требованиям такой срочной коммерции? Разумеется, роботы заметно ускорят процесс онлайновой торговли. Но чтобы революционизировать процесс покупок, они должны быть достаточно быстрыми, чтобы выполнять заказы день в день.
Быстро расширяются возможности контактов с окружающим миром без необходимости физического присутствия. Как вы догадываетесь, я считаю это очень удобным, и не в последнюю очередь потому, что городская жизнь для всех нас становится все более насыщенной. Сколько раз у вас появлялась мысль обзавестись двойником, который взял бы на себя часть ваших нагрузок? Создание реалистичных цифровых заменителей себя – дерзкая идея, но новейшие технологические достижения говорят, что она уже не настолько безумная, как кажется.
Когда я был моложе, развитие технологий указывало, что в будущем у нас должно появиться больше свободного времени. Но в реальности чем больше мы можем, тем больше дел на нас наваливается. Города уже полны машин, которые расширяют наши возможности, но вот если бы мы могли оказываться в двух местах одновременно… Мы привыкли к автоматизированным голосам на телефоне и в системах оповещения на транспорте. Изобретатель Дэниэл Крафт уже изучает вопрос, сможем ли мы воспроизвести себя визуально. Один вопрос – насколько убедительным окажется наш аватар?
Интерактивное общение может оказаться полезным в массовых открытых онлайн-курсах и в области развлечений. Это может быть очень интересно – цифровые актеры, которые всегда остаются молодыми и способными на то, что никаким иным
