физическом мире, лечение болезней, сражение с врагом на поле битвы — будут лучше всего выполняться в ходе совместной работы углерода и кремния. Пока что наибольшую опасность для человечества представляют сами люди. Чтобы оказаться реальной угрозой, машинам сначала надо стать более похожими на нас, а сейчас почти никто не пытается создать ничего подобного — гораздо проще и интереснее делать людей.

И все же если мы действительно рассматриваем долгосрочные перспективы, то существует серьезная причина сделать машины более похожими на нас по одному важнейшему — и пока что совершенно не учитываемому — критерию. Если отталкиваться от другого определения слова «мыслить», то машинам это вообще не свойственно, потому что ни одна из них не обладает самосознанием. Точнее говоря, мы не можем знать или даже с достоверностью предполагать, есть ли вероятность появления сознания у основанного на кремнии интеллекта, хотя большинство из нас считает, что нет. Есть три объяснения, почему создание действительно обладающего сознанием искусственного интеллекта — это хорошо. Во-первых, так мы получим свидетельство, что у нас есть в целом приемлемая теория насчет того, что необходимо для получения субъективного опыта. Во-вторых, сам факт, что одно мыслящее существо намеренно (позволено ли мне будет сказать «сознательно»?) конструирует другую форму разума, займет достойное место в ряду важнейших событий истории.

В-третьих, Вселенная без интеллекта, обладающего самосознанием и способного ее наблюдать, в конечном счете бессмысленна. Мы не знаем, есть ли где-то там другие существа, но можем не сомневаться, что рано или поздно исчезнем. Сознательный искусственный интеллект мог бы пережить наш неизбежный конец и даже грядущую гибель всего живого на Земле, когда Солнце вздуется и превратится в красного гиганта. Задача такой машины будет состоять не только в том, чтобы мыслить, но также и в том — и это куда важнее, — чтобы не дать угаснуть мерцающему пламени сознания, стать свидетелем Вселенной и чувствовать ее чудо.

Давайте подготовимся!

Макс Тегмарк Физик, космолог, Массачусетский технологический институт; директор по научным исследованиям в Институте основополагающих вопросов; один из основателей Института основополагающих вопросов; автор книги «Наша математическая вселенная» (Our Mathematical Universe)

Самый интересный для меня вопрос об искусственном интеллекте состоит не в том, что мы думаем о нем, а в том, что мы с ним делаем. В связи с этим в нашем недавно созданном Институте основополагающих вопросов мы привлекаем к обсуждению будущего отрасли многих выдающихся мировых специалистов по искусственному интеллекту. Вместе с ведущими экономистами, правоведами и другими экспертами мы изучаем все классические вопросы, такие как:

• Что произойдет с людьми, если машины постепенно заменят их на рынке труда?

• Когда, если это вообще произойдет, машины превзойдут людей во всех интеллектуальных задачах?

• Что будет потом? Произойдет ли взрывное развитие машинного разума, которое оставит нас далеко позади, и если да, то какая роль останется людям после этого (и останется ли вообще хоть какая-нибудь)?

Необходимо провести огромное количество исследований прямо сейчас, чтобы не только обеспечить функциональность систем искусственного интеллекта, но также гарантировать их надежность, полезность и управляемость.

Как и в случае с любой новой технологией, здесь вполне естественно сначала будет сосредоточить внимание на том, чтобы она заработала. Но как только забрезжит успех, придется задуматься о воздействии технологии на общество и выяснить, как нам беспроблемно пользоваться преимуществами искусственного интеллекта и избегать опасностей. Вот почему, научившись добывать огонь, мы разработали огнетушители и нормы пожарной безопасности. Для более современных технологий, таких как ядерная энергия, синтетическая биология и искусственный интеллект, оптимизация социального воздействия становится еще более важной задачей. Короче говоря, наша технологическая мощь должна соответствовать нашей мудрости в плане ее применения.

К сожалению, необходимый нам здравый подход к выбору задач для научных исследований, практически полностью глушит какофония невежественных суждений, охвативших блогосферу. Позвольте вкратце перечислить самые громкие из них.

1. Паникерство: страх увеличивает доходы от рекламы и рейтинг Нильсена[11], а многие журналисты, кажется, не способны написать статью про искусственный интеллект без картинки с роботом, несущим оружие.

2. «Это невозможно»: будучи физиком, я знаю, что мой мозг состоит из кварков и электронов, организованных и действующих подобно мощному компьютеру, и что нет такого закона физики, который препятствовал бы тому, чтобы мы построили еще более разумные сгустки кварков.

3. «Это произойдет не при нашей жизни»: мы не знаем, каковы шансы, что машины достигнут человеческого уровня во всех когнитивных задачах при нашей жизни, но большинство исследователей, работающих в области искусственного интеллекта, на прошедшей недавно конференции высказывались в пользу того, что вероятность этого выше 50 процентов, таким образом, было бы глупо с нашей стороны отбрасывать такую возможность, считая ее просто

Добавить отзыв
ВСЕ ОТЗЫВЫ О КНИГЕ В ИЗБРАННОЕ

0

Вы можете отметить интересные вам фрагменты текста, которые будут доступны по уникальной ссылке в адресной строке браузера.

Отметить Добавить цитату