Далекое будущее Вселенной Эсхатология в космической перспективе

Ограниченная и неограниченная игра воплощают в себе два различных эсхатологических подхода. Предполагая, что будущее бесконечно, люди, возможно, начинают вести себя по отношению друг к другу более ответственно, ибо знают, что завтра их может постичь возмездие за сегодняшние недобрые деяния. Чтобы поддержать себя, они могут стараться выработать себе репутацию, например, придерживаясь определенных моральных принципов. Напротив, те, чье видение будущего краткосрочно и ограниченно, более склонны к безответственному и даже аморальному поведению.

Важная интеллектуальная задача — разработать установления, делающие разрушительное поведение невыгодным. Но как представить будущее бесконечным и внушить людям уверенность, что социальная машина не может внезапно рухнуть, пока не ясно.

Мы полагаем, что наилучшим механизмом для этого является мировоззрение, предполагающее (или даже твердо обещающее) день воздаяния для тех, чье поведение вопиюще отклоняется от норм честной игры. Возвращаясь к примеру Югославии: едва ли участники конфликта, совершившие самые отвратительные преступления, ожидали вмешательства Международного трибунала и возможного уголовного суда. А если бы понимали, что такое возможно, подумали бы дважды.

Так же и многие террористы, по–видимому, надеются на безопасные убежища, откуда их не выдадут. Насколько международные нормы правосудия не только допускают, но и твердо устанавливают неотвратимость наказания за серьезные преступления без срока давности, независимо от государственных границ, настолько проблематичным становится для участников конфликта первый выстрел.

При отсутствии уверенности в будущем наказании помочь предотвратить нежелательное поведение могут и те установки, которые затемняют будущее и затрудняют предсказания. Эти установки весьма разнообразны: от демократии, с неизвестным исходом выборов и другими ее превратностями, до системы взаимного ядерного сдерживания, предполагающей благой, хоть и неопределенный исход для союзников в случае нападения агрессора.

Вполне возможно, что эти же установки или нормы способны ввести в действие силы, вознаграждающие за ненасильственное поведение: в этом случае их роль будет аналогична предотвращающей роли третьего игрока в триэли. Триэль, представляющая собой чрезвычайно упрощенную социальную модель, верно схватывает, однако, важнейшую черту социального поведения — способность третьей стороны играть важную роль в смягчении конфликтов. Присутствие третьего, по– видимому, смягчает взаимное напряжение, возникающее между двумя игроками и часто находящее себе исход в войне на истощение. По сути, третий игрок обеспечивает механизм равновесия, помогающий поддерживать надежду независимо от того, туманно или ясно будущее.

Литература

1. Axelrod, R., The Evolution of Cooperation (Basic Books, New York, 1984).

2. Bossert, W., Brams, S. J., and Kilgour, D. M., «Cooperative vs. Non?cooperative Truels: Little Agreement, but Does That Matter?» in Games and Economic Behaviour (forthcoming).

3. Brams, S. J., Biblical Games: Game Theory and Hebrew Bible (MIT Press, Cambridge, Mass., 1980; rev.ed., 2002).

4. Brams, S. J., Superior Beings: If They Exist, How Would We Know? Game?Theoretic Implications of Omniscience, Omnipotence, Immortality, and Incomprehensibility (Springer?Ferlag, New?York, 1983).

5. Brams, S. J., Theory of Moves (Cambridge University Press, Cambridge, 1994).

6. Brams, S. J., and Kilgour, D. M., «Backward Induction Is Not Robust: The Parity Problem and the Uncertainty Problem», Theory and Decision, 45, 263–89 (December 1998).

7. Carse, J. P., Finite and Infinite Games (Ballantine, New York, 1986).

8. Holsti, O. R., Brody, R. A., and North, R. C., «Measuring Affect and Action in International Relations Models: Empirical Materials from the 1962 Cuban Missile Crisis» J. Peace Res., 1, 170–89 (1964).

9. Kilgour, D. M., and S. J. Brams, «The Truel», Math. Mag., 70, 315–26 (December 1997).

10. Smolin, L., The Life of the Cosmos (Oxford University Press, New York, 1997).

13. Искусственный интеллект и далекое будущее

Маргарет Э. Боден[81]

13.1. Введение

Нас попросили подумать о далеком будущем — но насколько далеком? Идет ли речь о том времени, когда человечество как вид давно исчезнет? Или лишь о том, когда наука и технология значительно продвинутся вперед, но по–прежнему будут оказывать влияние на живого и здравствующего homo sapiens? «Первое далекое будущее» — в ведении космологов и физиков, а также научных фантастов, размышляющих о системах ИИ, способных пережить (и, быть может, выжить?) человечество. Я же сосредоточусь на «втором далеком будущем» и поразмышляю над тем, как ИИ далекого будущего повлияет на нас или, точнее, на наших потомков. В особенности о том, как повлияет он на наши представления о самих себе, и прежде всего на те из них, что имеют религиозную значимость.

Предсказания социальных и технологических переворотов — дело по большей части бесплодное, и тем более, чем дальше в будущее они простираются. Как известно, Ленин полагал, что революция при его жизни невозможна, Резерфорд не видел никакой практической пользы в расщеплении атома, а Томас Уотсон из Ай–Би–Эм утверждал, что миру хватит полдюжины компьютеров. Не сомневаюсь, что в будущем нас ждет множество технологических чудес. Но каких именно — не знаю, и вряд ли кто?то знает. Кое?что из того, что мы представляли во всех подробностях (и даже уверенно предсказывали), не осуществилось и, по моему мнению, не осуществится в ближайшее время. Но возникло много иного, такого, что мы себе и вообразить не могли.

Для наших целей, однако, все это не важно. Очевидно, что в ближайшем будущем ИИ будет занимать все большее место в рыночных технологиях и становиться все более «очеловеченным». Можно ожидать также, что журналисты, писатели, сценаристы, равно как и ученые и философы, будут посвящать дискуссиям об ИИ даже больше времени и текстов, чем сейчас. Говоря вкратце и опуская технологические подробности, ИИ начнет занимать все больше места в нашей жизни. Это создает контекст нашего вопроса: как может повлиять ИИ на наши представления о человечности? Поддержит ли он их, быть может, даже обогатит или подорвет?

Этот вопрос глубоко проблематичен — и проблематичен вдвойне. Вдвойне — потому что необходимо отличать то, что может произойти, от того, что должно произойти, и говорить как о том, так и о другом. Как и в других областях жизни, то, что может произойти (на практике), не обязательно совпадает с тем, что должно произойти (в теории). Глубоко — потому что это «должно» философски противоречиво. Оно