На краю пропасти. Экзистенциальный риск и будущее человечества

Не проявляйте племенных инстинктов.Защита нашего будущего не прерогатива левых или правых, богатых или бедных, Востока или Запада. Эта задача лишена идеологической окраски. Если представлять ее как политический вопрос, стоящий по одну из сторон спорного водораздела, это может обернуться катастрофой. В будущем всем есть что терять, поэтому мы должны защищать его вместе^[572].

Не забывайте о добросовестности.Когда на кону стоит нечто невероятно важное, а остальные не торопятся ничего предпринимать, людям кажется, что у них есть право добиваться успеха любыми способами. Нам ни в коем случае нельзя поддаваться такому соблазну. Единственный недобросовестный человек может испортить дело и перечеркнуть все, чего мы надеемся достичь.

Не отчаивайтесь. Отчаяние лишает нас сил, затуманивает наш разум и прогоняет всех, кто пытается нам помочь. Отчаяние – это самоисполняющееся пророчество. Хотя риски реальны и значительны, нам не известно ни одного риска, который мы были бы не в состоянии устранить. Только с высоко поднятой головой можно добиться успеха.

Не забывайте о хорошем. Хотя риски – главные трудности, с которыми сталкивается человечество, нельзя, чтобы наша жизнь сводилась только к ним. Нас ведет вперед надежда на будущее. Если ориентироваться на нее, у нас – и у остальных – появится необходимый стимул защищать свое будущее^[573].

Что можете сделать вы

В этой главе в основном рассматривались системные вопросы о том, как человечеству в целом преодолеть Пропасть и реализовать свой потенциал. Но среди этих масштабных вопросов и тем у каждого есть шанс сыграть свою роль в защите будущего.

Один из самых надежных способов трудиться на благо мира – делать это в рамках своей профессиональной деятельности. Работая, мы посвящаем около 80 тысяч часов решению некой проблемы, большой или маленькой. Это настолько огромная часть нашей жизни, что если мы сможем посвятить ее одной из самых важных проблем, то внесем колоссальный вклад в общее дело.

Если вы трудитесь в сфере информатики или программирования, возможно, вы сумеете переключиться на работу с экзистенциальным риском, сопряженным с ИИ: например, проводя весьма востребованные исследования контроля ИИ или работая инженером над ИИ-проектом, где риски воспринимаются всерьез^[574]. Если ваша сфера – медицина или биология, вы можете помочь с рисками, сопряженными с пандемиями искусственного происхождения. Если вы занимаетесь климатом, то можете расширять наши представления о вероятности и последствиях реализации радикальных климатических сценариев. Если ваша работа связана с политологией или международными отношениями, вы можете налаживать международную кооперацию в сфере экзистенциального риска, обеспечивать будущим поколениям право голоса в демократии или предотвращать войны между великими державами. Если вы работаете в правительстве, то можете помочь защитить будущее, повышая стандарты безопасности и создавая новые технологические регламенты.