– Вы клоните к тому, что всё в нас иррационально и бессмысленно?
– Я клоню к тому, что всё в нас управляемо – просто настолько сложно, что мы до сих пор в этом управлении не разобрались. Но работаем над этим. Я ведь не сказала вам, с какой именно сферой работаю? С нейрофизиологией – ну, в том числе. А мозг – штука очень хитрая. Впрочем… тут нужна небольшая предыстория про мозги цифровые.
У самообучающихся алгоритмов и прочих нейросетей бывают сбои, которые можно без натяжки назвать когнитивными ошибками. Например, ошибкой предубеждения.
Допустим, есть нейросеть, которую мы обучаем отличать кошек от собак. Мы показываем ей разных животных, больших и маленьких, мохнатых и лысых – и даже иногда пони для контраста. Она запоминает, что собаки отличаются друг от друга сильно, а кошки, наоборот, похожи, так что если тебе показали что-то непонятное (например, пони), то это, скорее всего, собака. Такое суждение закрепляется – и чем дольше оно даёт более-менее правильные результаты, тем больше вероятность, что алгоритм решит свой стереотип сузить. Например, вдруг убедит себя, что у архетипической кошки должен быть хвост, а бобтейлы выглядят странновато, так что они, наверное, собаки.
Это, впрочем, не слишком неожиданно. Когнитивные ошибки есть и у людей, и, по всей видимости, это просто побочный эффект любого процесса, напоминающего мышление. Мир слишком многообразен, его слишком много; единственный способ справиться с этим хаотичным шумом – сформировать стереотипы, некие идеальные платоновские образцы (чего угодно, от табурета до семьи), с которыми мы сравниваем всё происходящее. Нам, быть может, и хотелось бы польстить себе, заявив, что мы мыслим глубже и вовсе не стереотипами, только это не так.
Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.
Тут всё понятно.
Заинтересовало исследователей другое. Они неожиданно обнаружили, что при определённом объёме входящих данных алгоритмы выходят на плато развития. Казалось бы, у цифровой системы, не ограниченной, как мозг живого человека, объёмом вычислительных мощностей и тому подобным бренным миром, не должно быть сложностей с тем, чтобы стремить свой полёт всё выше и выше; об этом, грозя крючковатыми пальцами, предупреждали нас фантасты-алармисты – мол, понаучите роботов на свою голову, а они превзойдут человечество, экспоненциально умнея с каждым новым байтом, что вы им скормите.
Но нет. Нейросети, данные в которых наращивались и структурировались по принципам, схожим с устройством живых мозгов, почему-то упирались в потолок, и с определённого момента КПД их обучения начинал падать, а вычислительные мощности зацикливались на многократной реструктуризации и переосмыслении уже полученных знаний. Грубо говоря, для того чтобы овладеть ещё одним дифференциальным принципом, отличающим кошку от собаки, такая сеть заново «обдумывала», что есть кошка и что есть собака. И порой ставила под сомнение факты, уже установленные раньше, причём совершенно без видимых причин.
Связано это было именно с интенсивностью подачи новых данных. Если информацию предоставляли сети стабильно, плато не возникало, а вот если её было то густо, то пусто, либо если ввод данных вёлся во много потоков сразу, алгоритмы будто замыкались в себе и переключались на пласт переосмысления старого.
Такое метамышление можно назвать и «сознанием».
Некоторые с восторгом это и сделали. В конце концов, отмечали они, одна из гипотез о том, как возникло человеческое сознание, гласит, что это система, необходимая нам, чтобы регулировать конфликтующую информацию о внешнем мире. Чисто рефлекторное существо чихает, когда у него засвербит в носу. Существо чуть более продвинутое способно подавить этот рефлекс, если у него перед лицом стенка. А спустя многие поколения из него вылупляется существо совсем умное – способное, скажем, понять, что стенка эта – шкафа, куда оно спряталось, потому что по дому его бродит маньяк, так что чихать сейчас совершенно точно не надо.
Это, конечно, карикатура. Суть в любом случае в том, что метамышление нужно, чтобы приоритизировать и регулировать мышление обычное, не давать ему происходить стихийно.
Неужто мы в самом деле породили цифровую жизнь?
Большинство, впрочем, называло тех, кто готов был выписывать нейросетям паспорта, романтиками. Феномен был несомненен: из-за перегруза данными поведение обучающейся системы становится странным. А вот как это оценивать, вопрос открытый.
Если перегрузить мусоросжигатель мусором, он тоже поведёт себя странно, но разумным это его ещё не делает.
Идея проверить аналогичный принцип на людях отчасти нужна была всё тем же архитекторам нейросетей: как это всё работает у несравненного прототипа? Начнёт ли его тоже циклить на рефлексии, если послать ему сразу слишком много данных, и если нет, то как именно устроен предохранитель, способный от этого защитить? Можем ли мы его скопировать?
Отчасти же это было самостоятельное исследование. Юлия Николаевна, к примеру, верила, что такой ошибки не возникнет – просто потому, что человек не цифровое существо, а сенсорное: он много тысячелетий формировал способность обрабатывать сразу много каналов восприятия. Наш мозг очень легко перераспределяет нагрузку – зафиксированы случаи, когда половину его человеку попросту удаляли (из-за травмы или чего-нибудь подобного), а он не терял ни памяти, ни когнитивных способностей.
В общем, она была уверена, что живой мозг приспособится к чему угодно.
Судя по первым осторожным экспериментам, Юлия Николаевна была и права, и неправа одновременно. Когда людям специфически перегружали восприятие – например, создавая им «второе зрение» (что очень важно – работающее одновременно с первым, иначе не получится перегруза), это вело к разрыву старых нейронных связей и формированию новых. Причём каким-то неевклидовым образом: дело не в том, что человек-де смотрел часами на мастера кунг-фу, а потом сам неожиданно овладевал этим искусством. Так бывает только в сериалах. А в реальности эффекты были странными и нелогичными.
У одной пациентки открылась неожиданная способность к языкам – нет, она не заговорила в одночасье на санскрите, но выучила его за полтора месяца до уровня специалиста, хотя раньше таких талантов не проявляла. При этом другие сложные системы (языки программирования, знаковые языки) ей так не давались, что отдельно ставило всех в тупик.
Юлии Николаевне нравилась вот какая гипотеза. Есть разные способы учить живые языки, но объединяет их одно: эмоции. Человеческие языки так или иначе описывают реальный мир – даже когда речь идёт об абстракциях. Нет языка без слова «мама» или слова «я». Это и отличает их от искусственных систем. И то, как мы запоминаем связанные с этими явлениями языковые единицы, вполне вероятно, связано не только с зазубриванием, но и с эмоциональными привязками к ним. По крайней мере, энцефалограммы и сканы крови переводчиков-синхронистов показывают, что
