Конец индивидуума. Путешествие философа в страну искусственного интеллекта

В применении к управлению социальными отношениями ИИ может, следовательно, способствовать преодолению или по крайней мере нейтрализации индивидуальных предубеждений, что вполне соответствует заботам современной американской интеллигенции. Я осознал это глубинное совпадение политической повестки прогрессистов и техник ИИ, посетив офис Румман Чоудхури, расположенный на тридцать пятом этаже. Она занимается разработкой «ответственного ИИ» в рамках Accenture, мультинациональной консалтинговой компании. Сначала я поблуждал по этому запутанному рабочему пространству, где соседствует несколько компаний, и полюбовался панорамным видом на Сан-Франциско. Я уже в третий раз осмотрел горизонт, когда наконец мне удалось заметить Румман, которая готовилась бесследно исчезнуть со своего идеально чистого рабочего места. Румман, с ее зелеными волосами, тысячами подписчиков в твиттере и демонстративным энтузиазмом во всем, что касается социальных вопросов, не могла бы скрыть своей принадлежности к влиятельному сообществу калифорнийских демократов, одевающихся по последней моде, получивших кучу дипломов и готовых бесконечно рассуждать о разных несправедливостях.

Румман, специалист по информатике и одновременно политологии, разрабатывает для Accenture «инструмент справедливости» (fairness tool), который благодаря цифровым средствам должен дать возможность идентифицировать и корректировать потенциальную дискриминацию внутри предприятий. Алгоритмы составлены так, чтобы они могли квантифицировать предубеждения, например неравенство полов в карьерном плане или препятствия, мешающие разнообразию в процедурах набора кадров. В идеале именно ИИ должен будет заниматься наймом. Во-первых, для этого есть техническая причина: Accenture получает несколько тысяч резюме в день, и никакая команда, состоящая из людей, не может их все проанализировать. Но главная причина — в радикальном подходе к справедливости: машина позволяет отбирать кандидатов объективнее, не учитывая нашу личную зону комфорта. Если нам свойственно отбирать профили, похожие на наш собственный, то есть тех людей, которые окончили ту же школу или занимаются тем же спортом (не говоря уже о гендере и цвете кожи), то «инструмент справедливости» ставит всех на одну доску. Не удержавшись, я все-таки задал Румман слегка провокативный вопрос: не лучше ли работать с коллегами, которые вызывают у нас спонтанное доверие? Не необходим ли определенный уровень однородности для хорошей работы предприятия, которое, в конце концов, остается частной компанией, где люди отбирают друг друга по своему усмотрению? Румман с изумлением посмотрела на меня. Меня порекомендовала ей одна общая подруга, которая отвечает за управление данными в Сан-Франциско. Разве могло быть так, что я из чужого лагеря? Быть может, я просто трампист, замаскировавшийся под модного репортера? Что, если это ловушка, которую расставили враждебные силы?

Взяв себя в руки, Румман решает преподать мне урок с разъяснением преимуществ «инструмента справедливости». С ее точки зрения, борьба с «культурным подобием» не является инструментом повышения продуктивности — это самодостаточная цель. Речь не только о внутренней политике компании Accenture, но и о требовании социальной справедливости в целом, которое становится тем более настоятельным, что власть транснациональных компаний такого типа все больше подминает под себя государства. Румман цитирует Джефферсона: чтобы избежать тирании большинства, необходимо неустанно искоренять предубеждения против меньшинств, в том числе против самого малого меньшинства, а именно индивида. Вопрос сейчас — в самих основаниях наших открытых и демократических обществ. Я не стал ей возражать.