Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Программа компьютеризированной оценки рисков правонарушений при принятии судебных решений является одной из самых этически болезненных. Ведутся споры о том, является ли этичным оценивать активность человека в будущем исходя из его прошлых или настоящих действий. Согласно одному из аргументов против такой оценки мы не можем рассчитывать на полноту данных о действиях и поступках человека, чтобы иметь право прогнозировать его дальнейшее поведение. Та выборка, которой может располагать соответствующее лицо, выносящее оценку (например, судья или его помощник), будет либо не полной, либо предвзятой, либо составленной субъективно. Подобного рода оценки признаны не слишком информативными в силу того, что разные судьи на свое усмотрение принимают во внимание разные факторы. Как правило, при составлении подобных прогнозов человеком во внимание принимается только совершение или не совершение того или иного проступка. Совершению или не совершению приписывается определенный балл. Противники подобного подхода указывают на его неэтичность – не вполне справедливо оценивать только совершение дурных поступков или их несовершение, но не принимать во внимание совершение положительных поступков [Coeckelbergh, 2016]. Создание компьютеризированных программ оценки рисков нацелено на устранение данной погрешности, поскольку отныне в силу большой подборки данных программа может принимать во внимание практически все действия человека, совершенные им от рождения до текущего момента [Giubilini, Savulescu, 2018]. Согласно мнению некоторых из сторонников внедрения подобных программ, обширная подборка релевантных данных об активности человека в прошлом должна способствовать наиболее объективной оценке его законопослушности, равно как наиболее объективно оценивать вероятность новых правонарушений в будущем. В подборку по оценке рисков может быть помещен анализ генетических и социальных предрасположенностей к совершению преступлений, равно как потенциальной склонности к противоправному поведению. Сюда же могут включаться данные о наличии социопатических черт, анализ биографических и психологических особенностей личности с возможностью моделирования и предсказания возможных рисков противоправных действий, к совершению которых может быть склонно то или иное лицо.

Подход к формированию подобной оценки представляется не вполне этичным. Для этики в высшей степени проблематичным представляется оценка поступков человека на основании математической статистики. Презумпция свободной воли предписывает закреплять за человеком возможность совершить свободное, а значит, непредсказуемое действие [Holm, Voo, 2011]. Если человеческое действие будет рассчитываться на основе одних только статистических вычислений, это будет равнозначно тому, что он не обладает свободой воли. В свою очередь, наличие свободной воли необходимо для того, чтобы считать человека субъектом морального и правового действия. Лицо, не наделенное свободной волей и не способное к совершению свободного поступка, не может осуждаться или порицаться, подпадать под юридические или моральные оценки. Применение юридических санкций к лицу, не обладающему субъектными чертами, важнейшей из которых является свобода действия, абсурдна. Соответственно, использование любых расчетов, которые могут прямо или косвенно указывать на отсутствие такой свободы, нарушает требования этики, согласно которым мы должны следовать презумпции существования свободной воли, даже если у нас имеются данные в пользу ее ограниченности. Применение прогнозов, основанных на анализе большой выборки данных о действиях человека, нарушает его право на то, чтобы рассчитывать на данную презумпцию [Livingston, Risse, 2019]. Если в ходе анализа большой выборки фактов о деятельности того или иного лица, ИИ действительно сможет предложить высоковероятный сценарий его последующей активности, то применение данных результатов будет научно релевантным, но этически неоправданным.