Бог, человек, животное, машина. Поиски смысла в расколдованном мире

Сегодня мы можем привести в пример достаточно технологий, которые отражают нас самих «в другом обличье». Хотя самые впечатляющие технологии машинного обучения часто описываются как «инопланетные» и отличные от нас, они склонны к ошибкам, которые слишком похожи на человеческие. Поскольку эти алгоритмы опираются на информацию о прошлом для прогнозирования будущего, на их решениях сказываются предрассудки, свойственные нашей общественной и социальной реальности. Алгоритмы Google показывают женщинам больше объявлений о низкооплачиваемой работе, чем мужчинам. Как выяснилось, алгоритмы службы быстрой доставки в Amazon игнорируют районы, населенные преимущественно чернокожими. Расследование журналистской НКО ProPublica показало, что COMPAS оценивает чернокожих обвиняемых как более склонных к рецидивизму. Эти системы не запрограммированы в пользу определенной расы или пола; на самом деле они даже не учитывают эти факторы в своем анализе. Но информация, на которую они ориентируются, – почтовые индексы, уровень доходов, история арестов и судимостей – часто несет на себе отпечаток исторического неравенства. В итоге решения, принимаемые машиной, усиливают существующее социальное неравенство, создавая петлю обратной связи, что еще больше затрудняет преодоление расовых и гендерных предрассудков, которые давно преследуют наше общество.

На самом деле проблема предвзятости алгоритмов уже привлекала внимание обеспокоенной публики, хотя многие из предлагаемых решений лишь еще сильнее запутывают моральную сторону дискуссии. В большинстве случаев компаниям предлагается улучшить свое программное обеспечение, чтобы оно допускало меньше ошибок, или использовать наборы данных, которые точнее отображают этническое разнообразие в стране. Последнее предложение особенно часто звучит в дискуссиях о технологиях распознавания лиц, печально известных тем, что они допускают ошибки, сканируя лица людей с черной или смуглой кожей. В 2020 году это стало причиной первого ошибочного ареста по вине алгоритма. История Роберта Джулиана-Борчака Уильямса, чернокожего мужчины из Детройта, который был арестован после того, как программа распознавания лиц ошибочно опознала в нем магазинного вора с камеры наблюдения, освещалась многими национальными изданиями, на страницах которых бесконечные эксперты-юристы заламывали руки и требовали улучшения алгоритмов. Но во многих случаях такие призывы к совершенствованию только дают добро на более широкое внедрение технологий слежения. Как отмечает Ванг в «Карцеральном капитализме», сам факт, что в некоторых местах устанавливаются системы слежения, оснащенные алгоритмами глубокого обучения, указывает, что определенные места считаются требующими надзора, – это еще один пример системной предвзятости. (Преступления, совершающиеся на Уолл-стрит или в преимущественно белых пригородах, не учитываются алгоритмами, потому что за этими районами не так пристально наблюдают.) Создание более эффективных алгоритмов неизбежно требует большего количества данных, поэтому призывы к совершенствованию технологий «используются для оправдания массовой слежки и расширения полицейских и судебных операций, которые становятся источниками данных». Этим словам вторит Хамид Хан – общественный деятель, сыгравший важную роль в том, что в 2020 году Департамент полиции Лос-Анджелеса был вынужден отказаться от использования прогностических алгоритмов. Хан утверждает, что государственная политика, направленная на обеспечение прозрачности, подотчетности и управленческого контроля, слишком часто приводит к тому, что полномочия контролирующих органов начинают неограниченно разрастаться. «Мы не боремся за объективные алгоритмы, поскольку не верим, что можно разработать объективный алгоритм для полицейского надзора, даже с чисто математической точки зрения», – говорит он.