построен по совершенно иным принципам.
Формально он состоит из нейронов, генерирующих электрические сигналы и соединенных нервными каналами, по которым эти сигналы распространяются. Однако прямого соответствия транзисторным полупроводниковым структурам в мозге нет. И генерация сигналов, и их прохождение по нейронной сети, и сам принцип организации этой сети существенно отличны от того, к чему привычен взгляд компьютерного инженера. Первое, наиболее явно бросающееся в глаза, отличие – это как раз структура вычислительной сети: если на поверхности кремниевого кристалла существует топологически несложная двумерная сетка соединенных проводниками транзисторов и каждый из ее элементов связан напрямую с небольшим числом соседних, то в натуральном вычислительном комплексе мозга связи между нейронами крайне обширны и разнообразны; сеть их существенно многомерна (в топологическом смысле), и каналы переноса информации не столь очевидны, как в случае построенных человеческими руками процессоров. В середине 1940-х гг. американские математики Мак-Каллок и Питтс провели первые теоретические исследования принципов работы нейронных сетей (с их трудами, кстати, прекрасно был знаком фон Нейман). Было показано, что построенная на «натуральных» принципах вычислительная система ничуть не менее пригодна к решению тех же задач, что и полностью искусственная машина Тьюринга.
Шла Вторая мировая война, вычислительные машины требовались незамедлительно, и в реальную разработку попали как раз те системы, что сделались затем предшественницами так хорошо знакомой нам бинарно-полупроводниковой архитектуры. Принцип Декарта снова оказался в строю: главное – научиться разбивать задачу на последовательность элементарных ступеней (т. е. алгоритмизировать), а после – как можно быстрее производить вычисления по всем этим ступеням. Вот почему гонка процессорных скоростей продолжается уже более полувека. Есть только один способ повысить производительность компьютера Тьюринга—фон Неймана: заставить его выполнять элементарные вычисления еще быстрее. В крайнем случае – разбить большую задачу на ряд параллельных веток и обсчитывать каждую по отдельности (это путь многоядерной архитектуры). Если бы наш мозг работал на тех же принципах, вряд ли нам удалось бы достичь уровня, достаточного для реального воплощения «в металле» хотя бы машины Тьюринга...
Наука требует жертв
Получить сигнал от расположенного на поверхности коры головного мозга электрода и пытаться понять, какой же из близлежащих нейронов его инициировал, – задача не самая благодарная и действительно требующая недюжинной вычислительной мощи. Есть ли способы визуализировать этот процесс, сделать его более наглядным? Есть, хотя и не слишком одобряемые защитниками прав животных. Группа гарвардских исследователей проводит эксперименты по изучению работы мозга кошек и крыс, окрашивая нейроны особым флуоресцентным составом, меняющим спектральный состав излучения при повышении концентрации кальция в окружающей среде (именно кальций случит маркером активности нервной ткани). Животным с предварительно подготовленными к эксперименту нейронами демонстрируется ряд зрительных образов; кора головного мозга подсвечивается лазерным излучением, и оптические микроскопы фиксируют затем активность нейронов. Крышка черепной коробки у четвероногих участников эксперимента при этом, как нетрудно догадаться, по необходимости удаляется. Впрочем, кошки и крысы (а также морские свинки, собаки, обезьяны и т. п.) – известные страдальцы за человечество (которое, справедливости ради отметим, и себя-то самое особенно не щадит в ходе крупномасштабных экспериментов). По результатам исследований выяснилось, какие именно нейроны зрительного отдела мозга реагируют «в ответ» на демонстрацию животному различного рода геометрических структур (в опытах использовались ряды вертикальных, горизонтальных и наклонных линий). С точки зрения нейрофизиологии в целом это крайне серьезное достижение – до сих пор никому не удавалось визуализировать работу отдельных нейронов мозга высших животных с такой поразительной четкостью. Мозг кошки или крысы, конечно, не самый близкий к человеческому, но общие принципы работы естественных нейросетей таким образом великолепно поддаются изучению.
Первым делом – оборона
Первый в мире компьютер в современном понимании этого термина, электронный вычислитель ENIAC, был разработан в Высшем техническом училище Пенсильванского университета по заказу Армии США. Компьютер заменил собой целую Лабораторию баллистических исследований министерства обороны, занимавшуюся составлением корректировочных таблиц для артиллерийских стрельб. Приходилось обрабатывать титанические массивы данных для каждого типа орудий, для каждой разновидности боеприпасов, с учетом различных направлений ветра и атмосферных условий... Сотня высококвалифицированных математиков и несколько сотен подсобных вычислителей целыми днями крутили рукоятки арифмометров, однако катастрофически не укладывались в установленные военными сроки. В результате в 1943 г. был оформлен контракт на разработку электронной вычислительной машины – на невероятную по тем временам сумму в 400 тыс. долл. Достроенный уже в послевоенные годы ENIAC работал на 18 тыс. радиоламп, потреблял 130 кВт энергии и на своей 100-кГц тактовой частоте проводил около 300 операций умножения в секунду.
Принципиальная ограниченность линейной вычислительной парадигмы в том, что она позволяет оперировать исключительно короткими входными величинами (командами и данными). Пока речь идет о расчетах (будь то численное решение системы дифференциальных уравнений или отрисовка виртуальной игровой сцены), принципиальная ограниченность линейного подхода себя не слишком сильно проявляет. Данные поступают на вход системы линейно, команды – тоже (в крайнем случае, в несколько строго линеаризованных потоков); обработка их на современных процессорах занимает разумное время... Однако есть задачи, для решения которых входные данные требуется брать сразу в большой, единой совокупности. И прежде всего – это задачи распознавания графических образов, движущихся изображений, рукописного текста, речи и т. д.
Попытки решать такого рода задачи, оставаясь в рамках линейного подхода, раз за разом заканчиваются неудачами; в лучшем случае триумфально преподносят свои слабенькие успехи как нечто действительно выдающееся, и, строго говоря, с точки зрения тьюринговой вычислительной парадигмы это и впрямь впечатляющие достижения. Не случайно системы распознавания рукописного ввода, столь успешно действующие на современных планшетных ПК и коммуникаторах, основываются прежде всего не на итоговом рисунке буквы, а на всей информации о процедуре ее прорисовки (о траектории движения пера, с полным хронометражем его скоростей и ускорений в каждой точке каждой линии). Если же программе приходится анализировать, допустим, отсканированный рукописный текст (пусть даже в точности тот же самый!), все перечисленные сложности мгновенно вылезают наружу и мешают уверенному распознаванию самым настырным образом. Человеческому глазу гораздо проще разбираться в самом «косолапом» почерке: мы не просто анализируем форму и взаимное расположение петель и линий – мы фактически угадываем слова (слова целиком, а не буквы!); попробуйте в следующий раз обратить внимание на свои собственные действия, когда будете разбирать чей-нибудь особенно неудобочитаемый почерк. Глаз (точнее, мозг
