Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

1. Еще одной из ключевых этических проблем, связанных с технологией сбора данных, является степень расширения доступности конфиденциальных сведений и их переход в область неконфиденциальных. Неясным является вопрос алгоритмизации отделения конфиденциальной информации от неконфиденциальной. Конфиденциальная информация может косвенно содержаться, даже без намерения ее искать, в неконфиденциальной информации и тем самым способствовать предвзятости, к примеру, судебного решения [Myungsik, 2018]. Потребительские привычки, мнения в социальных сетях, геолокационные данные дают информацию о привычках и склонностях человека и позволяют косвенно реконструировать конфиденциальные данные [Galliott, Reed, 2016].

Техническое определение границ конфиденциальной и неконфиденциальной информации представляет собой отдельную проблему. Доступ к информации лежит в основе функционирования агентов ИИ. Модели и алгоритмы прогнозирования разрабатываются на основе наблюдений за окружающей средой и анализа больших массивов данных. Чем больше данных будет проанализировано, тем более точные прогнозы будут подготовлены и большую полезность получат дальнейшие прогнозы [Rouvroy, 2010]. В этом случае агенты ИИ будут вести наблюдения, даже если все другие считают секретной информацию, которую ИИ может получить. Например, в некоторых интернет-программах цензура рассматривается как препятствие, и чтобы его устранить следует искать обходные пути [Totschnig, 2019].

Следствие подобной ситуации то, что сбор и обработка данных даже в случаях, когда их организация будет проводиться с соблюдением закона, может порождать этически напряженные ситуации, в которых о людях «всплывает» информация, которой не предполагалось делиться. В контексте судебных споров и коллизий подобная ситуация может служить причиной как недоразумений и судебных ошибок, так и определенных злоупотреблений. В любом случае непредсказуемость и непреднамеренность разглашения конфиденциальных данных может вредить гражданам не только в повседневной или профессиональной жизнедеятельности, но особенно в контексте судебно-правовой деятельности.

2. Если ИИ-технологии в судебной системе не закладываются как полноценные эмуляторы судопроизводственной деятельности, то они могут внедряться на правах технических помощников профессионалов (судей, прокуроров, адвокатов или следователей). Квалифицированные сотрудники, работающие в системе правосудия, могут обращаться к решениям ИИ-судей как к своего рода рекомендательной инстанции. С решениями компьютеризированных помощников можно сравнивать решение, принятое судьей-человеком. Отбор аналогичных случаев или подбор соответствующей правовой документации, осуществляемой в таких программах, как «Гарант-Плюс», можно дополнить предварительной экспертизой дела, а также вынесением рабочего решения. Профессиональный сотрудник, работающий с данной системой, может принять во внимание или отклонить предложенное программой решение. Однако в любом случае, учитывая рекомендательный характер предварительной информации, она должна быть полезной в оптимизации и ускорении приятия решения человеком-профессионалом.

Кейс. Такие программы, как «Гарант-Плюс» за последние 10 лет претерпели серьезное расширение и серьезную трансформацию с точки зрения запроса конечного пользователя. Если в 2000 году 80 % запросов при использовании программы касались нахождения того или иного законодательного акта, постановления или нормативного акта, то в 2016 году около 60 % запросов касаются поисков прецедентных решений или помощи в решении того или иного правового вопроса. Данная трансформация позволяет говорить о возрастании запроса юристов и прочих специалистов правоведов на эмуляцию решений конкретных правовых вопросов и ситуаций [Шевелёва, 2018].