Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

На эти вопросы предстоит ответить как широкой общественности, так и узким специалистам, занимающимся разработкой ИИ. Важную роль в экспертной подготовке решений поставленных проблем должны играть специальные комитеты по этической экспертизе разработки и внедрения того или иного продукта ИИ, куда будут входить специалисты из междисциплинарных областей. В ходе открытого обсуждения и свободной дискуссии ими будут вырабатываться решения по тем или иным этическим вопросам внедрения и успешной реализации ИИ.

Ключевые этические рекомендации, лежащие в основе настоящего документа, выстроены на основе определенных принципов и ценностей, которые мы последовательно артикулируем в этой части. Таким образом, настоящий документ основан на следующих этических принципах и ценностях.

1. Социальные принципы:

a. Уважение автономии человека на основе равенства прав и доступа к реализации потребностей в рамках закона.

б. Справедливость в распределении благ, социальная и правовая справедливость.

в. Право знать, как устроены те или иные социальные механизмы, в том числе включающие ИИ-технологии.

г. Отсутствие любых форм дискриминации или ущемления прав граждан, внимание к наиболее уязвимым группам граждан.

2. Экологические принципы:

Сохранение природы, разумное использование ресурсов, техническая надежность и безопасность.

3. Правовые принципы:

Верховенство закона, неприкосновенность частной жизни, надзор за законностью применения новых технологий и использованием старых.

4. Информационные принципы:

Прозрачность, объяснимость, доступность и открытость информации.

Системы ИИ должны функционировать в соответствии с этическими ценностями обществ, в которых они будут реализованы. Несовпадение этих значений между человеком и машиной может препятствовать их эффективному взаимодействию.

Вопрос о том, какие ценности машины должны использовать и как внедрить эти ценности в научном поле, до сих пор остается дискуссионным. В настоящее время рассматривается несколько влиятельных этических теорий, регулирующих взаимодействие человека и ИИ (деонтологические, утилитарные, этики добродетели и т. д.).

На этом уровне мы находим два типа взаимосвязанных проблем:

1. Каким образом решать этические проблемы, возникающие при использовании ИИ?

2. Как формализовать выработанные этические стратегии для самого ИИ?

Способствовать решению данных проблем может разработка руководства ИИ по этике, которое может быть адаптировано к конкретным профессиям и реальным сценариям. В нем будут изложены основные принципы и ценности, которые должны функционировать в системах искусственного интеллекта. Они могут основываться на его способности усваивать примеры и динамически адаптироваться к реальным ситуациям, с которыми придется столкнуться в определенной области.

Отдельно обозначим фундаментальные этические принципы работы ИИ:

1. ИИ не должен вредить людям своими действиями или бездействием.

2. ИИ обязан выполнять приказы людей, только если это не вступает в противоречие с п. 1.

3. ИИ должен стремиться продолжать свое существование и поддерживать его, кроме тех случаев, когда это противоречит п. 1 или п. 2 [Pei, 2018].

Этические аспекты применения и внедрения ИИ в судебной системе

1. Судебная система

Активное применение и распространение цифровых технологий не обошло стороной и такие сферы, как юриспруденция и судопроизводство. Применение искусственного интеллекта в данных сферах вызывает не меньшее число опасений, чем в области здравоохранения или образования. Традиционно в данной сфере человеческий фактор представляет собой наибольшую трудность. Риски подкупа судей, предвзятости следователей, различного рода уловки защиты, равно как и обвинения, психологические факторы воздействия на суд присяжных и/или свидетелей и проч., все это служило поводом для движения в сторону формализации судебных решений, ограничения роли человеческого вмешательства. В рамках подобных начинаний развитие и применение ИИ в правовой сфере было встречено с определенным энтузиазмом. Передача судебных решений в компетенцию ИИ может позволить значительно уменьшить риски недобросовестных рассмотрений дел, а также различного рода воздействия на участников судопроизводства. Применение так называемого «электронного правосудия», в котором решение выносит «ИИ-судья» (AI-judge), упрощает и ускоряет весь процесс принятия решения, уменьшает финансовые и временные издержки сторон, облегчает ознакомление с материалами дела. При этом ИИ-судья олицетворяет идеал абсолютной непредвзятости, бесстрастности и неподкупности. Как иронизируют некоторые современные правоведы, «антропоморфный судья всегда уже был создан по образу ИИ-судьи» [Bhorat, 2017].