ответственности, а также от плохих механизмов принятия решений и сбора информации.
Однако в последние несколько десятков лет эволюционирующий ГИИ начал использовать цифровые технологии, чтобы заменить ими бюрократов- людей. Те из них, кто имеет примитивные программы и плохие математические способности — юристы, политики и многие социологи, начали опасаться за свои влиятельные посты и потому всячески поднимают шум по поводу того, что нельзя-де позволять инженерам и предпринимателям программировать ГИИ. Как по мне, претензии этих «традиционных программистов» звучат неубедительно, учитывая систематические неудачи, сопровождающие их уже несколько тысячелетий.
Если посмотреть на более новые, цифровые части ГИИ, то можно заметить определенную систему. Некоторые из них спасают человечество от ошибок «традиционных программистов»: картографические спутники предупредили нас о глобальном потеплении, исчезновении лесов и других экологических проблемах, а также снабдили фактами, необходимыми для решения этих проблем. Подобным образом статистический анализ здравоохранения, транспорта и режимов работы дает нам глобальную сеть, с помощью которой можно отслеживать мировые пандемии и координировать действия по борьбе с болезнями. С другой стороны, некоторые новые части, такие как «Великий китайский файрвол», АНБ и американские политические партии, выглядят пугающе, поскольку с их помощью горстка людей оказывается способна контролировать мысли и поведение очень больших групп, причем последние могут и не знать, что ими манипулируют.
Это говорит о том, что в действительности волноваться стоит не о самом Глобальном искусственном интеллекте, а о том, кто его контролирует. Если контроль сосредоточен в руках лишь нескольких человек или ГИИ вовсе не зависит от людей, тогда он может порождать кошмары. Но если контроль находится в руках большого и разнородного сообщества представителей разных групп людей, то мощь ГИИ, вероятно, будет использована для решения проблем, стоящих перед всем человечеством. То, что ГИИ превращается в распределенный интеллект, которым управляет многочисленный и разнородный круг людей, — благо для всех нас.
Создание работоспособного ГИИ критически важно, так как человечество сегодня сталкивается с предельно серьезными проблемами. ГИИ, который мы сформировали за последние 4000 лет, в основном состоит из политиков и юристов, исполняющих алгоритмы и программы, которые были написаны несколько веков назад. Он не только не справляется с этими серьезными проблемами, но и угрожает нашему существованию.
Для того чтобы все человечество сперва достигло достойного уровня жизни, а затем продолжало его поддерживать, нам нужно внимательно относиться к тому, как развивается наш ГИИ. Он может существовать в форме реконструированной ООН, которая использует ресурсы цифрового интеллекта, чтобы достичь устойчивого развития. Но, поскольку существующие системы международного управления очень неудачны, подобный подход может потребовать замены большей части современных бюрократических структур протезами с искусственным интеллектом — цифровыми системами, которые собирают достоверную и точную информацию и обеспечивают распределение ресурсов в соответствии с планом.
Мы уже видим, как цифровая эволюция повышает эффективность военных и коммерческих структур, но следует отметить, что, по мере того как организации начинают использовать больше цифровых протезов, они также эволюционируют в сторону более распределенных схем командования. Возможно, вместо дополнения традиционных структур управления цифровыми протезами мы разработаем новые, более эффективные типы цифровой демократии.
Вне зависимости от того, как будет развиваться новый глобальный искусственный интеллект, очевидны две вещи. Во-первых, маловероятно, что мы можем достичь достойного уровня жизни для всего человечества без работоспособного ГИИ. Голосовать против его развития — значит голосовать за жестокий, больной мир. Во-вторых, возможная опасность ГИИ связана с тем, в чьих руках будет сконцентрирована власть. Мы должны придумать, как построить подлинно демократические системы, куда входили бы и люди, и компьютерные разумы. Критически важно начать строить и тестировать ГИИ, которые будут решать экзистенциальные проблемы человечества и вместе с тем обеспечивать равенство в управлении ими. В противном случае мы можем обречь себя на будущее, полное экологических катастроф, войн и ненужных страданий.
Станут ли компьютеры чем-то вроде мыслящих и говорящих собак?
Мыслящие машины эволюционируют на наших глазах. Мы хотим знать, куда направлена их эволюция. Чтобы это выяснить, нам нужно заглянуть внутрь себя, так как именно наши желания — та сила, которая их формирует. Увы, себя мы можем наблюдать только через тусклое стекло. Мы даже не представляли, насколько сильно электронная почта и социальные сети изменят нашу жизнь. Чтобы увидеть, что ждет мыслящие машины, нам надо взглянуть в безжалостное зеркало, которое ставит перед нами интернет.
Как бакалея на полках магазинов, сетевой контент — это продукт отбора, производство которого зависит от продаж. В интернете появляются любые
