На краю пропасти. Экзистенциальный риск и будущее человечества

Для начала разберемся, что такое общий экзистенциальный риск. Это риск того, что человечество рано или поздно столкнется с экзистенциальной катастрофой любого типа[475]. Он учитывает все риски: природные и антропогенные, известные и неизвестные, близкие и далекие. Все пути к тому, чтобы катастрофа навсегда уничтожила потенциал человечества.

Это чрезвычайно полезное понятие, поскольку в его рамках все риски приводятся к общему знаменателю, которым становится их вклад в общий риск. Но для этого приходится вводить упрощающее предположение о том, что ставки по разным рискам примерно одинаковы, а различия между рисками определяются главным образом различиями в их вероятностях. Это не всегда так, но это служит хорошей отправной точкой[476].

Как отдельные риски объединяются в общий риск? Допустим, во всем нашем будущем лишь два риска с вероятностями 10 % и 20 %. Каков при этом общий риск? Возникает желание просто сложить вероятности, но обычно это дает неверный результат. Ответ зависит от взаимосвязи этих рисков (см. Рис. 6.1).

Рисунок 6.1. Риски могут сочетаться множеством способов, от идеальной антикорреляции (А) до идеальной корреляции (Б). Промежуточное положение занимает важный случай взаимозависимости (В). Общий риск зависит от того, сколько риска “теряется” при наложении их друг на друга – в той области, где катастрофа все равно случится, даже если мы уничтожим один из рисков. Большое наложение снижает общий риск, но также ограничивает преимущества уничтожения одного из рисков.

Хуже всего, когда они находятся в идеальной антикорреляции (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и того, что такое число больше 80). В таком случае общий риск представляет собой сумму двух его факторов: 30 %. Лучше всего, когда риски находятся в идеальной корреляции, например 10 %-ный риск наступает только в тех случаях, когда наступает и 20 %-ный (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и вероятность того, что такое число меньше либо равно 20)[477]. В таком случае общий риск равен более высокому из двух: 20 %. Если риски статистически независимы друг от друга (например, риски в двух отдельных лотереях), вероятность оказывается промежуточной. В таком случае она составит 28 %. (Проще всего понять это, представив вероятность того, что не случится ни одна из катастроф: 90 % × 80 % = 72 %. Если мы вычтем это произведение из 100 %, получится 28 %.)

Чего нам ожидать на практике? В целом, полагаю, нам следует ожидать некоторой положительной корреляции между большинством пар рисков в силу существования общих причин и общих решений[478]. Так, серьезная мировая война может повысить многие экзистенциальные риски, а успешная деятельность общемирового института по управлению экзистенциальным риском может многие из них снизить. Это умеренно хорошая новость, поскольку из-за этого риски чаще накладываются друг на друга, а общий риск становится чуть ниже, чем если бы риски просто суммировались или считались бы независимыми[479]. Если связь между рисками не видна, логично сначала предположить, что такие риски независимы, а затем проверить, что изменилось бы, если бы между ними наблюдалась корреляция или антикорреляция.

Как ни странно, такие проблемы возникают не только при объединении рисков, но и при сопоставлении их важности. Насколько 20 %-ный риск важнее 10 %-ного? Очевидный ответ “вдвое” почти никогда не оказывается верным (для этого риски должны состоять в идеальной антикорреляции). Чтобы получить верный ответ, нужно учесть, что важность устранения риска определяется тем, какая доля общего риска исчезнет с его устранением. После этого можно проверить, чему равна эта доля.

Например, на Рис. 6.1 мы увидели, что независимые 10 %-ный и 20 %-ный риски дают общий 28 %-ный риск. Следовательно, устранение 10 %-ного риска снизит общий риск на 8 % (с 28 до 20 %), а устранение 20 %-ного риска снизит его на 18 % (с 28 до 10 %), что более чем вдвое больше. 20 %-ный риск окажется в 2,25 раза более важным, чем 10 %-ный, и, как правило, более высокие риски важнее, чем можно подумать. Эти неочевидные эффекты (и не только они) становятся тем значимее, чем сильнее корреляция рисков и чем выше общий риск. Они приобретают особенную важность, если риск в этом столетии выше, чем я предполагаю, или если высок общий риск для всего нашего будущего (некоторые неожиданные следствия этого рассматриваются в Приложении D).

Факторы риска