На краю пропасти. Экзистенциальный риск и будущее человечества

Но я хочу подчеркнуть, что в этом наблюдении таится опасность. Дело в том, что так можно ненароком скатиться к благостной самоуспокоенности и заменить защиту будущего другими целями, возможно лишь условно с нею связанными. Если экзистенциальный риск снижается при движении к другой цели, это не значит, что такая стратегия – самый надежный способ сберечь наше будущее. Если эта другая цель важна с точки зрения здравого смысла, то вполне вероятно, что на ее реализацию уже выделяется гораздо больше ресурсов, чем на непосредственную работу с экзистенциальным риском. В таком случае у нас гораздо меньше возможностей сдвинуться с мертвой точки. На мой взгляд, вполне вероятно, что существует лишь несколько факторов экзистенциального риска и экзистенциальной безопасности (таких как война великих держав), которые действительно сопоставимы с самыми значимыми экзистенциальными рисками с точки зрения того, насколько эффективно дополнительная работа с ними помогает нам сберечь свое будущее. Очень важно выявить эти факторы.

Какие риски?

Как ни печально, большинству экзистенциальных рисков, которые мы рассмотрели, уделяется гораздо меньше внимания, чем они заслуживают. Хотя ситуация меняется, скорее всего, пройдет не один десяток лет, прежде чем на борьбу с серьезными рисками будут выделены достаточные ресурсы. Тем из нас, кто хочет сберечь наше будущее, необходимо расставлять приоритеты, то есть определить, на что именно направлять свои ограниченные силы и ресурсы.

Для этого логично было бы сравнивать риски по вероятности их наступления, а точнее, по размеру их вклада в общий риск. Поскольку ставки по большинству экзистенциальных рисков примерно равны (большая часть потенциальной ценности будущего), можно подумать, что этим дело и ограничивается: приоритетность рисков следует определять по тому, насколько они повышают общий риск.

Но это не так. Дело в том, что работать с некоторыми рисками проще. Например, мы можем снизить небольшой риск с 5 до 1 %, задействовав те же ресурсы, которые понадобились бы, чтобы снизить более серьезный, но более неподатливый риск с 20 до 19 %^[491]. В таком случае, направив эти ресурсы на меньший риск, мы смогли бы снизить общий экзистенциальный риск сильнее.

Наша конечная цель – потратить ресурсы, выделенные на работу с экзистенциальным риском, таким образом, чтобы снизить общий риск как можно сильнее. Можно представить распределение ресурсов, имеющихся у человечества, как портфель инвестиций, состоящий из вложений в разные способы предотвращения разнообразных рисков. Сформировать весь портфель очень сложно, и часто мы в силах лишь вносить незначительные коррективы в распределение мировых ресурсов, поэтому для простоты представим, что мы вносим незначительные изменения в существующий портфель. Учитывая всю остальную работу, которая ведется для предотвращения рисков в настоящее время, какую задачу следует считать самой неотложной? Куда следует направить дополнительные ресурсы (например, время и деньги), чтобы сильнее всего снизить общий риск?

Дать точный ответ на этот вопрос крайне сложно. Но некоторые эвристические принципы помогут нам ограничить количество вариантов. Один из них таков: чем важнее проблема, чем более она податлива и чем сильнее ею пренебрегают, тем более она затратно-эффективна, а следовательно, тем выше ее приоритет^[492]. Важность проблемы определяется тем, насколько высокую ценность имеет ее решение. В случае с экзистенциальным риском мы можем, как правило, приравнять важность к тому вкладу, который он вносит в общий риск. Податливость – мера того, насколько просто решить проблему. Чтобы точно определить это, можно спросить, какая доля риска была бы устранена, если бы мы удвоили ресурсы, которые в настоящее время брошены на работу с ним. Наконец, проблемой пренебрегают, если на нее направляется мало ресурсов. Здесь действует закон убывающей отдачи: как правило, дополнительные ресурсы приносят тем больше пользы, чем меньше ресурсов было затрачено на решение проблемы раньше^[493]

.

Мой коллега из Института будущего человечества Оуэн Коттон-Баррат продемонстрировал, что, когда эти условия должным образом сформулированы, затратную эффективность работы над конкретной проблемой можно выразить очень простой формулой^[494]:

Затратная эффективность = Важность

x Податливость x Пренебрежение.

Хотя очень сложно назвать точные цифры для любого из этих показателей, эта модель все же позволяет сделать полезные выводы. Так, она показывает, почему в идеальном портфеле, как правило, ресурсы распределяются между несколькими рисками, а не направляются на один: чем больше мы вкладываем в конкретный риск, тем меньше мы пренебрегаем им, и привлечение дополнительных ресурсов на борьбу с ним перестает быть приоритетным. Через некоторое время оказывается, что дополнительные ресурсы выгоднее направлять на работу с другим риском.