Взломать всё. Как сильные мира сего используют уязвимости систем в своих интересах

Игнорировать этот шум можно было, когда ущерб не являлся потенциально опасным в глобальном масштабе – то есть как если бы мировая война еще не могла уничтожить человечество, разрушить общество или коснуться регионов и людей, не имеющих к этой войне никакого отношения. Но сейчас мы уже не можем быть уверены в этом. Риски стали экзистенциальными, чего не было раньше. Усиливающий эффект технологий превращает краткосрочный ущерб в долгосрочный и системный, причем в масштабах планеты. Полвека мы жили в тени призрака ядерной войны – катастрофы, которая может привести к вымиранию человечества как вида. Глобальная система транспортных сообщений позволила локальным вспышкам COVID-19 быстро превратиться в пандемию, которая обошлась нам в миллионы жизней и миллиарды долларов, увеличив политическую и социальную нестабильность. Изменения в атмосфере, обусловленные технологиями и усугубляемые петлями обратной связи, могут сделать Землю куда менее гостеприимной в ближайшие столетия. Сегодня решения отдельных хакеров могут иметь последствия для всей планеты. Социобиолог Эдвард Уилсон описал фундаментальную проблему человечества следующим образом{266}: «У нас палеолитические эмоции, средневековые институты и богоподобные технологии».

Представьте себе хакерскую атаку, подобную той, что устроил Volkswagen, выбрасывая в атмосферу больше углекислого газа, чем позволяли нормы. Если бы этим путем пошло слишком много компаний, мы бы резко приблизили момент повышения средней температуры климатической системы Земли на 2 ℃ и жизнь на планете стала бы невыносимой. Представьте себе апокалиптическую террористическую группу, которая взламывает командную структуру ядерного арсенала и запускает ракеты. Или биохакеров, выпускающих в мир новую болезнь. Мы можем увидеть массовую гибель людей и крах правительств, что приведет к необратимой нисходящей спирали, куда более быстрой, чем тяжелая и упорная борьба за повышение уровня жизни, которую человечество вело до сих пор.

По этим двум причинам хакинг сегодня – это экзистенциальный риск. Мы научились взламывать лучше, быстрее и больше. Наши социальные и технические системы моментально превращаются в поля битвы между хакерами и службами безопасности, мутируя в процессе и приобретая совершенно новые формы. На фоне перекоса в пользу верхушки пищевой цепи и порождаемой хакингом нестабильности все эти атаки будут и дальше происходить за счет обычных людей.

Но, думаю, повод для оптимизма все же есть. Технологические достижения, которые усугубляют хакерские атаки, также способны улучшить ситуацию, одновременно защищая от вредных хаков и продвигая полезные. Хитрость заключается в том, чтобы правильно настроить системы управления. И эта задача усложняется тем, что решить ее мы должны в ближайшее время.

Для того чтобы превращать хаки – и сегодняшние, созданные людьми, и завтрашние, созданные ИИ, – в социальные инновации, нужно отделить полезные хаки от вредных, расширить масштабы первых и минимизировать последствия вторых. Это гораздо больше, чем простая защита от взлома, о которой мы говорили во второй части книги. Это также означает наличие систем управления, которые могут идти в ногу с быстрыми изменениями, взвешивая конфликтующие интересы и интерпретации рисков, выгод и потенциала каждого отдельного хака.

Мы должны создать устойчивые структуры управления, способные быстро и эффективно реагировать на взломы. В них не будет никакого толку, если исправление налогового кодекса потребует годы или если хак законодательной базы настолько укоренится, что его невозможно будет исправить по политическим причинам. Нам нужно, чтобы правила и законы общества можно было оперативно исправлять патчами, как программное обеспечение компьютеров и телефонов.

Если мы не сможем хакнуть сам хакинг, сохранив его преимущества и снизив сопутствующие ему издержки и неравенство, нам будет трудно выжить в этом технологическом будущем.

Благодарности

Эта книга родилась в период глобальной пандемии и личных жизненных потрясений, пострадав от последствий того и другого. В 2020 г. я написал 86 000 слов, затем, в 2021 г., забросил рукопись, пропустил крайний срок, оговоренный с издателем, и вновь взялся за нее лишь весной 2022 г. Благодаря Эвелин Даффи из Open Boat Editing я выкинул из книги 20 000 слов и реорганизовал ее в 60 небольших глав, которые (как я надеюсь) вы только что прочитали.