На краю пропасти. Экзистенциальный риск и будущее человечества

Эти определения показывают, что исход экзистенциальной катастрофы и плачевен, и необратим. У нас не просто исчезнет возможность реализовать свой потенциал – сам потенциал тоже будет навсегда потерян. Хотя я хочу оставить официальные определения краткими, несколько аспектов этих понятий требуют пояснения.

Во-первых, долгосрочным потенциалом человечества я считаю совокупность всех возможных вариантов будущего, которые открыты для нас^[78]

. Это огромный диапазон, куда входит все, чего человечество может добиться в будущем, даже если нам только предстоит изобрести средства достижения своих целей^[79]. Но отсюда следует, что, если выбор, который мы совершаем сегодня, отсекает часть наших возможностей, он уже не может открыть новые. Таким образом, любое уменьшение потенциала человечества должно считаться необратимым. Сегодня перед нами стоит задача сохранить наш огромный потенциал и защитить

его от риска последующего уничтожения. Суть в том, чтобы дать нашим потомкам возможность реализовать этот потенциал и воплотить в жизнь один из лучших открытых для нас вариантов будущего.

Хотя в таком масштабе моя идея может показаться абстрактной, на самом деле мы сталкиваемся с ней изо дня в день. Представьте ребенка, обладающего высоким долгосрочным потенциалом: ему доступно множество вариантов прекрасного будущего. Важно сохранить этот потенциал, чтобы лучшие варианты будущего не оказались отсеченными из-за несчастного случая, травмы или недостатка образования. Важно и защитить этот потенциал, то есть принять превентивные меры, чтобы его потеря стала крайне маловероятной. Также важно, чтобы ребенок в итоге реализовал свой потенциал – иными словами, прошел по одной из лучших дорог, которые ему открыты. С человечеством дело обстоит точно так же.

Экзистенциальные риски грозят уничтожить потенциал человечества. Уничтожение может быть как полным (например, при вымирании), так и почти полным, скажем при необратимом коллапсе цивилизации, когда остаются возможности для очень скромного процветания или слабая надежда на восстановление^[80]

. Я не провожу четких границ, но следует понимать, что в случае любой экзистенциальной катастрофы большая часть нашего потенциала утрачивается и остается лишь минимум^[81].

Во-вторых, упор на человечество в моих определениях не подразумевает, что я не учитываю ценность окружающей среды, других животных, преемников Homo sapiens и существ, живущих в других областях космоса. Я вовсе не хочу сказать, что в расчет идут только люди. Я лишь утверждаю, что люди – единственные из известных нам существ, которые воспринимают моральные суждения и доводы, а следовательно, могут изучать мир и решать, как лучше поступать. Если мы не справимся, то эта направленная вверх сила, эта способность стремиться к лучшему и справедливому попросту исчезнет из мира.

Наш потенциал – это то, чего человечество может достичь в результате совокупных усилий всех людей до единого. Ценность наших действий будет отчасти определяться тем, что мы делаем в отношении людей и для людей, но будет также зависеть от того, как наши действия влияют на другие виды. Если в будущем мы каким-то образом поспособствуем возникновению новых моральных агентов, в соответствии с моим определением их нужно будет включить в категорию “человечества”.

Поскольку я рассматриваю все человечество, угрозы отдельным странам и культурам не могут считаться экзистенциальными рисками. Подобный термин существует и для них – порой люди называют нечто “экзистенциальной угрозой для определенной страны”. Если не учитывать, что такие утверждения обычно бывают преувеличенными, в их основе лежит схожая идея – идея о том, что нечто грозит навсегда уничтожить долгосрочный потенциал отдельной культуры или страны^[82]. Но очень важно, чтобы понятие “экзистенциального риска” (без явной привязки к конкретной группе) употреблялось только в отношении угроз для всего человечества.

В-третьих, любое определение риска сопряжено с понятием вероятности. Каков принцип оценки вероятности экзистенциального риска? Нет смысла рассматривать вероятность как объективную долгосрочную частоту, поскольку экзистенциальные катастрофы, которые нас интересуют, могут случиться лишь один раз и всегда будут оставаться беспрецедентными, пока не станет слишком поздно. Нельзя сказать, что вероятность экзистенциальной катастрофы равняется нулю просто потому, что такой катастрофы никогда не происходило прежде.

Подобные ситуации требуют логического подхода к оценке вероятности, при котором на основе имеющейся информации называется адекватная степень уверенности в том, что событие произойдет. Такой подход используется в судах, банках и букмекерских конторах. Говоря о вероятности экзистенциальной катастрофы, я буду иметь в виду то, насколько человечеству следует быть уверенным, что такая катастрофа произойдет, с учетом самых убедительных доказательств, имеющихся в нашем распоряжении^[83].