Убийственные большие данные. Как математика превратилась в оружие массового поражения

Когда дело доходит до масштабирования, у моделей вероятности рецидива хорошие перспективы. Они уже используются в большинстве штатов, причем модель LSI-R – самый распространенный вариант, используемый как минимум в 24 из них. Однако LSI-R – не единственный вариант: тюрьмы представляют собой оживленный и прибыльный рынок для специалистов по анализу данных. Система исполнения наказаний переполнена информацией, особенно с учетом то, что заключенные еще в большей степени лишены права на privacy, чем любой из нас. Более того, эта система настолько примитивна, неэффективна, дорога и бесчеловечна, что она просто вопиет о необходимости улучшений. Кто же в тюремной администрации будет против подобных дешевых решений?

Реформа системы исполнения наказаний – редкая тема в сегодняшнем поляризованном политическом мире, в которой либералы и консерваторы единодушны. В начале 2015 года братья-консерваторы Чарльз и Дэвид Кох объединились с либеральным аналитическим Центром за американский прогресс, чтобы продвинуть реформу тюрем и снизить число заключенных. Но я подозреваю, что эти межпартийные усилия реформировать тюрьму, как и множество других усилий, практически наверняка выльются в предполагаемо эффективное и справедливое решение – очередную модель, в которую человек будет вводить данные. Такова эпоха, в которой мы живем. Даже если другие инструменты потеснят LSI-R в качестсве основного вида оружия математического поражения, тюрьмы, скорее всего, останутся инкубатором для создания других видов ОМП в огромных масштабах.

Если суммировать все сказанное, вот три главных компонента ОМП: непрозрачность, масштабность и высочайшая степень ущерба. Все эти компоненты присутствуют в той или иной степени в примерах, которые мы будем рассматривать дальше. Разумеется, всегда есть место для возражений. Вы, например, можете сказать, что оценку степени риска рецидива нельзя назвать вполне непрозрачной, потому что она основана на результатах, с которыми заключенные в некоторых случаях могут ознакомиться. И тем не менее она непрозрачна – ведь заключенные не могут посмотреть, как именно

их ответы перерабатываются в результат. Подсчитывающий алгоритм от них скрыт.

Есть несколько видов оружия математического поражения, которые, возможно, не вполне соответствуют критерию масштабности. Их распространение пока еще нельзя назвать повсеместным. Но они представляют собой опасные экземпляры, которые со временем неизбежно масштабируются – и, возможно, экспоненциально. Поэтому я включаю эти примеры в свой список.

Наконец, вы можете заметить, что не все виды ОМП приносят исключительно ущерб. В конце концов, они помогают кому-то попасть в Гарвард, кому-то – получить на хороших условиях кредиты или приличные рабочие места, а также сокращают тюремные сроки для некоторых заключенных – для тех, кому повезло. Но вопрос же не в том, что некоторые люди получают от этих моделей пользу, а в том, что столь многие из-за них страдают. Эти модели, усиленные алгоритмами, захлопывают двери перед носом у миллионов людей, зачастую по ничтожнейшим поводам, и не подразумевают возможности апелляции. Эти модели несправедливы.

И вот еще что можно сказать об алгоритмах: они могут переходить из одной области в другую, и это действительно зачастую происходит. Результаты эпидемиологических исследований могут использоваться для предсказаний кассовых сборов; программы, фильтрующие спам, модифицируются, чтобы идентифицировать ВИЧ.

Все это верно и для ОМП. Так что, если математические модели в тюрьмах продемонстрируют кажущийся успех – что на самом деле означает эффективное вмешательство со стороны человека, – они могут распространиться и на всю экономическую систему, наряду с другими ОМП, превратив нас всех просто в расходный материал.

Именно об этой опасности я говорю, именно эта опасность неумолимо возрастает. И следующую поучительную историю об этом может рассказать нам мир финансов.

Посттравматический синдром: мое путешествие к утрате иллюзий

Представьте, что у вас есть в жизни какой-то заведенный ритуал. Каждое утро, перед тем как сесть на поезд из Джолиета до чикагской станции «Лассаль-стрит», вы скармливаете кофейному автомату на перроне два доллара. Автомат возвращает вам два четвертака плюс стаканчик с кофе. Но однажды он возвращает вам четыре четвертака. И если трижды за следующий месяц тот же автомат выдает такой же результат, значит, налицо некая системная ошибка…