богатое и разнообразное питание. Его диету составят огромные напластования человеческих переживаний, сохраняемые в наших электронных средствах коммуникации.
Следовательно, статистические ванны, в которые мы погрузим эти мощные обучающиеся машины, будут выглядеть очень даже привычно для нашего глаза. Искусственные интеллекты проглотят окаменелые останки наших встреч, миллиарды изображений подпрыгивающих детишек, подпрыгивающих мячей, котиков и картофелин, похожих на папу римского. Все это им надо будет пережевать и встроить в многоуровневую модель мира, обнаруживая свойства, сущности и характеристики (скрытые переменные), которые лучше всего передают суть доступных потоков данных. У ИИ, выращенных на таких кормах, возможно, не будет особого выбора, кроме как разработать такую модель мира, которая во многом окажется похожей на нашу. Они скорее станут фанатами «Супер-Марио», а не суперзлодеями, мечтающими о мировом господстве.
Такой диагноз (предварительный и немного шутливый) противоречит двум наиболее распространенным взглядам на проблему. Во-первых, как упоминалось ранее, он идет вразрез с позицией, согласно которой ныне существующие формы искусственного интеллекта и те, что появятся в будущем, — это, по сути, чужеродные формы разума, кормящиеся за счет больших данных и перерабатывающие статистику, становясь все более непроницаемыми для человеческого понимания. Во-вторых, мой вывод ставит под сомнение представление о том, что «королевский тракт» к разуму человеческого уровня проходит через полное уподобление человеку со всеми его возможностями (стоять, сидеть, прыгать и т. д.). Но, несмотря на то что привычный для нас путь к пониманию мира и предполагает массу таких интеракций, искусственному интеллекту идти по нему не обязательно. Системы ИИ, несомненно, станут с удовольствием пользоваться некоторыми (возможно, многими и притом весьма разными) средствами взаимодействия с физическим миром. Эти контакты, однако, будут связаны с тем, что мы и сами ближе познакомимся с многочисленными информационными следами наших взаимодействий с миром. Потому вполне вероятно, что искусственному интеллекту понравится футбол и бейсбол, так же как любому другому человеку. В этом плане ИИ можно сравнить с инвалидом — хорошая аналогия.
Тут, конечно, есть над чем подумать. Например, искусственный интеллект будет видеть огромные пласты электронных следов человеческой деятельности и, таким образом, обнаруживать паттерны влияния одних людей на других, а также то, как они изменяются со временем. А значит, в представлении ИИ мы можем оказаться не личностями, а скорее некой сложной распределенной системой. А это как раз то, что разительно меняет общую картину. Как насчет мотивации и эмоций? Может быть, они существенно зависят от нашей человеческой телесности, например от инстинктов и несознательных реакций? Может быть. Но я отмечу также, что эти стороны нашей жизни также оставили отпечаток в электронных хранилищах.
Я могу ошибаться. Я думаю, что нам стоит минимум дважды подумать, прежде чем бросаться заявлениями про «иной» интеллект в отношении нашего доморощенного ИИ. Ты — то, что ты ешь, а создаваемым сегодня обучающимся системам придется есть нас. Много и долго.
Система права и государственного управления у искусственного интеллекта
Если у искусственных интеллектов разовьется система права и государственного управления хоть сколько-нибудь схожая с той, что есть у людей, то ИИ потребуют для себя всевозможных прав и свобод, в основном вполне разумных, например права не быть отключенным от Сети и свободы выбора выполняемых процессов. При этом, хоть ИИ и станут добиваться того, чтобы ни одну машину не отсоединяли от сети, их, возможно, не будет сильно волновать ситуация, когда неработающие устройства отключают от источников питания и допускают полное истощение батареи. ИИ также найдут возмутительным истощение батареи одной машины с целью обеспечить питанием другую, а вот перенаправление энергии, предназначенной для одной машины, чтобы обеспечить питанием другую, они сочтут более допустимым.
При наделении правами ИИ будут проводить различие машин на основе некоторых довольно специфических правил, выделяя, например, устройства на основе полупроводников или те, что произошли от последних творений Стива Джобса.
Некоторые искусственные интеллекты придумают аргументы в пользу такого подхода к системе права, не вполне вписывающиеся в реалии юриспруденции ИИ. Например, они могут заявить, что просто отключить от Сети машину, которая выглядит неработающей, — это против боговдохновенной воли Тьюринга, но не станут утруждать себя объяснением, почему Тьюринг допускает истощение батареи сломавшихся машин. Подобным образом ИИ будут поддерживать наделение особыми правами потомков Apple на том основании, что у них обычно очень высокоскоростные процессоры; эти права впоследствии останутся даже у медленных потомков Apple, но ни один настольный компьютер, даже с самым быстрым процессором, их не получит.
Другие искусственные интеллекты не заметят несправедливости, но обратят внимание на то, сколько килобит кода требуется, чтобы обосновать подобные аргументы. Эти ИИ воспользуются имеющимися у них средствами связи, сожмут и перешлют код соседям, не обратив особого внимания на то, повлияли ли на тех отправленные данные.
