Внуки дают нам второй шанс увидеть систему обучения, с которой новые люди приходят в этот мир, и восхититься ею. Движимые неутолимым любопытством, они каким-то образом разбираются в незнакомой среде, куда их вытолкнули. А неподдельное наслаждение открытиями, из которых складывается картина этого нового мира, обнаруживает врожденное чувство юмора.
Ни одна искусственная машина никогда не пройдет через тот восхитительный процесс познания, какой проходит человеческий детеныш, открывающий мир. Возможно, ни одна искусственная машина никогда не приблизится к интеллектуальному потенциалу новорожденного человека. В мире природы после 3,5 миллиарда лет эволюции, движимой естественным отбором, только один вид развил способность к абстрактному сознательному аналитическому мышлению. Мы что, правда думаем, будто можем обойти этот процесс и вывести машины на сопоставимый с нами уровень?
От остального животного царства нас отделяет не только развитая любознательность и желание понимать мир. У нас есть еще развитая склонность к социальному взаимодействию и общению, которые приводят к тому, что мы делимся приобретенными знаниями и сохраняем их (что в определенный момент вызывает развитие науки и технологий). Сколько генов должны были мутировать и пройти через естественный отбор, чтобы появился сложный человеческий мозг с его любознательностью, с его способностями к коммуникации и формированию социальных связей?
Действительно ли мы можем воспроизвести это в цифровых машинах? Многие считают, что можем благодаря все возрастающей скорости вычислений. Вычислительная мощность, конечно, позволяет таким машинам принимать быстрые и точные решения, когда для этих решений нужны только большие цифровые базы данных и эквивалент многих тысяч утверждений «если… то…», чтобы выбрать из всех вариантов наилучший. Используя такой грубый подход, эти машины обыгрывают чемпионов мира в шахматы, пилотируют реактивные самолеты в сложных условиях, быстро покупают и продают ценные бумаги на основании комплексной оценки рыночной динамики и выполняют еще миллион разных функций. Вычислительные мощности также могут позволить реалистично имитировать действия человека, его решения и даже эмоции (по сути, это просто техничное кукольное представление), но никогда не дадут подлинного аналитического мышления. Хоть машина и способна самостоятельно отслеживать, какие решения она принимает, ей никогда не достичь самосознания, подобного человеческому.
По крайней мере, это невозможно без соответствующего программного обеспечения. Но как нам создать ПО, сравнимое с тем, что основано на генетике нашего мозга, на разработку которого у природы ушло 3,5 миллиарда лет? Мы еще очень далеки от понимания всех программ нашего мозга. Можно говорить о рациональном параллелизме, присущем его структуре, но это досадно неадекватное описание того, как он в действительности работает. Параллельность операционных систем наших компьютеров и программ просто позволяет нам делать несколько дел одновременно — предположительно, каким-то неординарным образом, но опять же это всего лишь увеличение скорости вычислений. Удастся ли нам когда-нибудь произвести обратное проектирование нашего мозга — не в смысле выявления контуров и сетей нейронов, в которых мы уже довольно неплохо разбираемся, а в общем техническом решении, что дало бы цифровым машинам возможности абстрактного мышления, ощущение собственного «я» и прочее, что есть у людей?
Если только не произойдет какого-то невероятного аналитического открытия, все, что нам остается — это писать программы, которые пытаются имитировать эволюционный процесс. Благодаря высокой скорости вычислений наших машин мы, вероятно, получим какие-то результаты быстрее, чем за 3,5 миллиарда лет. Мы можем создать размножающиеся цифровые сущности (программы, которые воспроизводят сами себя) и заставить их мутировать, но стимулировать эволюцию подобной сущности так, чтобы она превратилась в мыслящую машину, — это слишком грандиозная задача. Для того чтобы с нею справиться, нам нужно найти способ создать для машины среду с чем-то наподобие естественного отбора (но такой отбор на самом деле будет искусственным) или с какой-то иной мотивацией, приводящей к необходимым изменениям. Можем ли мы заставить машину «захотеть» чего-либо, так чтобы это позволило провести отбор в пользу более развитого интеллекта?
Любые достижения в области ИИ, скорее всего, будут результатом действий, которые мы в ближайшее время сможем проделать с единственным имеющимся у нас видом мыслящих машин — с собой.
Эволюция Homo sapiens в условиях естественного отбора закончилась с созданием обществ (семьи, племен, деревень, городов, стран). Благодаря этому люди смогли защищать слабых, и выживание наиболее приспособленных перестало быть движущей силой естественного отбора. Индивиды с недостатками, которые раньше оказались бы для них смертельными, стали жить достаточно долго, чтобы размножаться. Теперь же мы на грани того, чтобы изменить человеческий вид с помощью генной инженерии. В какой-то момент мы попытаемся доработать свой разум, изолировав гены, отвечающие за более высокий интеллект и аналитические способности. А мы обнаружим эти гены до того, как разберемся, как они работают, и задолго до того, как верно смоделируем их в цифровых программах. Искусственный — не естественный — отбор изменит состав наших генов.
Наше будущее, вероятно, — за улучшенным биологическим, а не машинным интеллектом. Именно в этом заключаются опасности и/или преимущества. Мы могли бы, например, выбрать определенные гены (или даже создать новые), которые, по нашему мнению, увеличат интеллект, для этого даже не надо полностью понимать, как работают конкретные комбинации генов. Но не запустим ли мы невольно процесс, который изменит лучшие человеческие качества?
