На краю пропасти. Экзистенциальный риск и будущее человечества

Поскольку невозможно полностью устранить весь риск в текущем столетии, полезнее отметить, что в примитивной модели снижение векового риска вдвое ценится как половина столетия существования человечества (и это так же справедливо для любой другой доли и любого другого промежутка времени). Этого достаточно, чтобы сделать защиту нашего будущего ключевым приоритетом во всем мире.

Однако ценность примитивной модели не в точности, а в гибкости. Она служит точкой отсчета, когда мы изучаем, что случится при изменении любого из учитываемых в ней допущений. На мой взгляд, все три этих допущения слишком пессимистичны.

Во-первых, с веками ценность человечества по многим параметрам существенно возросла. Этот прогресс шел весьма неровно в краткосрочные периоды, но удивительно стабильно в долгосрочной перспективе. Мы живем долго, и наша жизнь полна культурных и материальных богатств, которые наши предки тысячи лет назад просто сочли бы выдумкой. Возможно, учитывать стоит и размах нашей цивилизации: тот факт, что такой полной жизнью живет в тысячи раз больше человек, по всей видимости, повышает ее ценность. Если собственная ценность каждого века растет с коэффициентом больше r

, это может существенно повысить ценность защиты человечества (даже если такой темп роста не сохраняется навсегда)^[666].

Во-вторых, согласно примитивной модели, наши действия в текущем веке могут защитить нас лишь от рисков в этом же веке. Но сделать можно и больше. Своими действиями мы можем оказывать продолжительное воздействие на риски. Так, эта книга – моя попытка расширить представления человечества о природе экзистенциального риска и помочь людям понять, как с ним работать. Многие уроки, которые я привел, не устаревают со временем: в той степени, в которой они вообще способны нам помочь, они помогут нам и с будущими рисками^[667]. Работа, которая снижает риск на многие века, гораздо важнее, чем следует из примитивной модели.

Если работа снижает весь будущий экзистенциальный риск, ее ценность зависит от уровня риска r

. Например, ценность снижения будущего риска вдвое такова:

Как ни удивительно, ценность снижения риска на всех отрезках времени тем выше, чем меньше риск^[668]

. Это противоречит нашим интуитивным представлениям, поскольку люди, которые оценивают риск невысоко, как правило, используют это в качестве аргумента против приоритизации работы над экзистенциальным риском. Но чтобы интуитивно понять, почему низкий уровень риска делает его снижение более важным, нужно вспомнить, что сокращение экзистенциального риска вдвое на всех отрезках времени вдвое увеличивает ожидаемую продолжительность времени до катастрофы. Следовательно, ситуации, когда риск уже низок, дают нам более долгое будущее, которое можно увеличить вдвое, и потому эта работа становится еще важнее. Кроме того, обратите внимание, что каждое последующее сокращение всего будущего риска вдвое дает все большую предельную отдачу.

В-третьих (и это, вероятно, важнее всего), вековой риск со временем меняется. Он вырос в прошлом веке и, возможно, продолжит расти в текущем. Но я полагаю, что в долгосрочной перспективе он снизится, и тому есть несколько независимых причин. В последующие несколько веков мы, вероятно, сможем основать постоянные колонии за пределами Земли. Космос не панацея (см. с. 232), но если мы разложим свои яйца по нескольким корзинам, это поможет нам защититься от части риска. Кроме того, существенная доля риска сопряжена с появлением новых революционных технологий. Но если мы проживем достаточно долго, то вполне можем достичь технологической зрелости – времени, когда в нашем распоряжении окажутся все важнейшие технологии, которые можно разработать, и впереди не будет никаких технологических переходов^[669]. Наконец, нам нужно учитывать работу, которую будущие поколения станут проводить для защиты человечества в свои века. Если необходимость защиты человечества настолько очевидна и важна, как кажется мне, нам стоит ожидать, что со временем она будет получать все более широкое признание, а значит, работа по защите человечества активизируется.

Если уровень риска опустится ниже текущего, будущее, возможно, станет существенно более ценным, чем можно предположить в соответствии с примитивной моделью^[670]. Повышение ценности в общем зависит от отношения риска в следующем столетии к долгосрочному вековому риску. Например, если вероятность экзистенциальной катастрофы в текущем столетии составляет 1 к 10, но стремительно снижается до уровня фонового природного риска, то есть менее 1 к 200 000 в столетие, то ценность устранения риска в текущем столетии в сравнении с примитивной моделью возрастает в 20 000 раз.