Ошибаться – это норм! Простая система, позволяющая извлекать максимальную пользу из своих факапов

Наиболее очевидной причиной современных комплексных неудач являются все более усложняющиеся информационные технологии (ИТ), которые сегодня лежат в основе каждого аспекта жизни и работы. Заводы, цепочки поставок и операции во многих отраслях зависят от сложного компьютерного управления, где небольшой сбой в одной части системы может обрушить ее полностью. Возможно, вы помните, как одна из компаний по кредитованию Equifax сообщила, что личные и финансовые данные 150 миллионов американцев были украдены с платформы компании. По показаниям генерального директора Ричарда Смита в Конгрессе в октябре 2017 года, «нарушение произошло из-за человеческой ошибки и технологических сбоев». Хакеры получили доступ к трем серверам, что позволило им добраться до 48 оставшихся. Комплексная неудача обострилась, потому что взлом оставался незамеченным 76 дней, за которые хакеры успели извлечь все персональные данные, а также информацию об инфраструктуре системы Equifax.

Возможно, вы тоже теряли ценную информацию, потому что пренебрегли резервным копированием данных. Надеюсь, что последствия не были для вас такими же ужасными, как те, что испытал системный инженер Джеймс Хоуэллс. В 2013 году он случайно выбросил жесткий диск своего старого компьютера (который, к слову, залил газировкой). Он слишком поздно понял, что там остался 64-символьный ключ, который бы мог разблокировать его скромные инвестиции в биткоины. Неустанные попытки получить разрешение на поиск своей потери на муниципальной свалке ни к чему не привели. И восемь лет спустя он не смог забрать полмиллиарда долларов, которые на тот момент стоили его биткоины.

Социальные сети изменили бизнес, политику и дружеские отношения, сделав слово «вирусный» обыденным. Глобальная финансовая система связывает каждый банк и бесчисленные домохозяйства в каждой стране, делая нас уязвимыми перед человеческими ошибками, происходящими на другом конце света. Как объяснила моя подруга, профессор Колумбийского университета Рита Макграт, много лет назад большинство наших институтов были отделены друг от друга и тем самым ограждены от последствий ошибок за их пределами. Такого больше нет. По мере снижения стоимости вычислительных мощностей оцифровка массивных объемов информации продолжает стремительно расти. Развитие интеллектуальных систем, которые постоянно взаимодействуют друг с другом, привело к бесконечному количеству вариаций потенциальных проблем. Эта взаимозависимость – самая благодатная почва для комплексных неудач. А из-за возрастающей сложности этих систем все труднее предвидеть, что произойдет дальше.

Коронавирус, возникший в Китае и быстро распространившийся по всему миру, – отличный пример того, как глобальная взаимосвязь делает комплексные неудачи более вероятными. В начале 2020 года, когда по всему миру резко возрос спрос на защитные маски, заводы в Китае увеличили их производство. Они отправляли маски в другие страны морем. В результате пустые грузовые контейнеры накапливались в этих странах как раз тогда, когда Китай нуждался в них больше всего, чтобы экспортировать больше масок. А попытка остановить вирус через выявление и изоляцию всех контактировавших с инфицированным человеком – это триумф комплексной неудачи, ведь каждый заболевший потенциально является одной из множества причин распространения пандемии.

Мои друзья Крис Клирфилд и Андрас Тильчик написали книгу Meltdown. Она рассказывает о комплексных неудачах и о том, почему они нарастают. Местами ужасающая книга объясняет «общую ДНК ядерных катастроф, конфликтов в Twitter, разливов нефти, провалов на Уолл-стрит и даже правонарушений». Как и я, Крис и Андрас попали под влияние социолога Чарльза Перроу, который определил факторы риска, делающие определенные виды систем уязвимыми к разрушениям.

Как системы порождают комплексные неудачи

Мышление, которое помогло мне выделить категории неудач, появилось благодаря новаторской книге Чарльза Перроу Normal Accidents, впервые опубликованной в 1984 году. Его работа до сих пор продолжает влиять на мнение экспертов о безопасности и риске. Перроу показал, что это не отдельные люди, а сами системы провоцируют значительные сбои. Понимание того, как это происходит и какие виды систем больше подвержены сбоям, помогает исключить из уравнения вину. А также подходить к уменьшению числа неудач через изменение неисправной системы, а не замену человека, который в ней работает.

Мои исследования были посвящены вопросу о том, почему медицинские ошибки продолжают случаться даже в передовых клиниках, несмотря на то, что экспертное и общественное внимание к этой проблеме резко возросло. Почему профессиональные и опытные медики, исповедующие принцип «не навреди», продолжают совершать смертоносные ошибки? Как оказалось, бо́льшая часть причин кроется в природе комплексного провала.