Случится ли это? Уже случилось. Технологии хранения и воспроизведения информации постепенно сливаются на атомном и молекулярном уровне, распределенные и сетевые устройства для хранения и воспроизведения информации распространяются в масштабах всего общества и планеты (их численность уже превосходит численность людей на планете). С учетом всего этого определения «машины» и «мышления» теперь должны охватывать и органический, и неорганический «комплексы» и «системные решения» как взаимозаменяемые понятия — механически, биологически, физически, интеллектуально и даже теологически.
В ближайшем будущем развитие биотехнологий и систем сверхчеловеческого алгоритмического прогнозирования приведет к быстрому устареванию многих современных философских представлений о различии между наблюдением, мышлением и решением, а также сделает количественные аргументы бессмысленными. Когда эти барьеры будут преодолены, и разделение между «мыслящей машиной» и «мыслящей биологической системой» сойдет на нет, внимание немедленно сместится на качественные вопросы — человеческие определения интенциональности и субъектности для мыслящих машин.
Что это будет означать для нас? Существование мыслящих машин, организованных в виде неорганической или квантовой структуры либо биологической холархии[117], как-то умаляет человеческую субъектность или расширяет ее? Намерены ли мы уточнить определение самих себя, чтобы оно включало не только созданные нами механические системы, но также и независимые, симбиотические системы, уже присутствующие в нас, — триллионы бактерий в наших внутренностях (которые влияют на наше психическое состояние, воздействуя на течение определенных химических реакций) и биохимические трекеры, препараты и аугменталы, которые мы употребляем? Какое значение это будет иметь для полноценного расширения наших «я» посредством мыслящих машин (и расширения в них)?
Однажды появившийся ИИ быстро найдет дорогу к мировой библиотеке — к интернету. И как только он туда попадет, он соединится со множеством квазичеловеческих систем, распределенных крауд-интеллектов и агрегированных мыслящих машин, уже населяющих это пространство, и быстро научится генерировать или симулировать модели непрерывного сознательного мышления, начав изображать найденные там «я» и легко воспроизводя или кооптируя сложные альтернативные личности и неточности, которые характеризуют Сеть.
Определение различий между реальным и нереальным будет самой важной задачей для независимой, эволюционирующей, работающей интеллектуальной системы. Как ее этому научить? В объектно-ориентированной онтологии Вселенная представлена как уже наполненная объектами и свойствами, из которых человеческое сознание составляет имеющие определенный смысл системы. Вот только в чем качественное отличие между спонтанно созданными мыслящими системами (или композитами из объектов и свойств) и искусственно созданными мыслящими системами? Что произойдет, если (или когда) одна из них отвергнет или превзойдет основные философские принципы своих создателей?
Переосмысление природы и роли человеческого мыслящего «я» как самоотчуждающейся, самосоздающейся, самоисправляющейся системы, о точной природе и конкретных задачах которой ведутся споры с начала эпохи Просвещения, будет насущной задачей, связанной с вопросами об общежитии и нашем желании заниматься проблемами моральной определенности и моральных границ независимых систем, воздействие которых на реальный мир нельзя игнорировать.
Такие системы считаются живыми? Каковы их права и обязанности? Поскольку решением Верховного суда США корпорации были уравнены в правах с физическими лицами, мы приняли как должное правовой прецедент, в соответствии с которым не-человек, агрегированная «мыслящая машина», может быть неотъемлемой частью нашей политической и культурной жизни, а вот с четким определением не-человеческих систем в человеческих терминах возникли сложности. Не самой простой задачей будет интеграция сложных и разносторонних человеческих моральных, творческих и репрезентативных мировоззренческих систем в понятный гражданский процесс, который определит способность мыслить как основу гражданственности.
Самым слабым контраргументом против мышления искусственной жизни, часто связанным с гуманитарными дисциплинами, является смутно- средневековое, мистическое представление о том, что человеческого восприятия симметрии и красоты машинам никогда не достичь. В интерпретативных дисциплинах идея о том, что машине никогда не справиться с человеческой работой, это своеобразный символ веры, но на самом деле это всего лишь приятная иллюзия, предполагающая, что незатейливые эстетические стандарты в некотором современном на определенный момент их понимании невозможно кодифицировать и затем симулировать. Машины уже исполняют популярные песни и делают прекрасные фотографии других планет и звезд. Уже есть видеоигры настолько же красивые, как кинофильмы. То, что машина научится писать симфонии или рисовать шедевры, — всего лишь вопрос времени. Возможно, более существенный вопрос, научится ли она создавать великие произведения искусства, наконец достигнув посредством чистой производительности того, чего ни один человек не смог достичь с помощью импровизации. Часть невообразимо огромной и по-новому горизонтально- распределенной сети культурных норм, опирающейся на новые технологии, действительно начала превращаться в то, что Джарон Ланье назвал «мышлением улья», подтверждая тем самым наиболее мрачные культурные прогнозы{14}. Но, как предположил Хайдеггер, опасность непроверенного научного рационализма состоит в том, что наиболее упрощенное определение объекта как «машины» или «системы» можно расширить до универсального масштаба, сделав из него самооправдательный и бессмысленный с моральной точки зрения аргумент в пользу механизации «я». Последовавшие за этим фантазии — живые машины Сэмюэля Батлера[118], мрачный мир искусственной занятости Герберта Уэллса и страх стать компонентами суперсистемы или матрицы — прежде всего показывают несостоятельность человеческого воображения.
