Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

4. Один из принципов использования ИИ в судебной системе – оценка рисков. Так, одна из систем ИИ, используемая судьями США, называется оценкой общественной безопасности. Поскольку ИИ в состоянии обрабатывать огромное количество статистических данных, как и способен применять сложные расчетные операции, недоступные человеку, то обработку любых данных целесообразнее поручать программам. Одним из важных и полезных результатов такой обработки является возможность предсказаний на основе анализа данных. В судебной системе оценка рисков применяется в целом ряде случаев – для профилактики правонарушений, оценке степени опасности правонарушителя с точки зрения будущего, оценка степени возможного ущерба, а также при определении степени наказания. Один из таких инструментов по оценке рисков был разработан частным благотворительным фондом Лауры и Джона Арнольдов, базирующимся в Техасе. На основании обработки большого массива статистических данных указанная программа предоставляет судьям информацию о потенциальных рисках рецидивов со стороны обвиняемых, а также выдает рекомендации для принятия справедливых вердиктов в отношении заключенных [Brożek, Jakubiec, 2017].

Кейс.

В ряде американских судов успешно внедрена ИИ система освобождения под залог. Согласно традиционному применению этой меры, судья устанавливает достаточно высокую сумму залога для обвиняемых во избежание возможного их уклонения от явки в суд.

ИИ стал применяться для расчета залоговой суммы, при установлении которой ИИ проводит оценку риска неявки. Для этого ИИ использует данные о прошлых судимостях и/или арестах, сведения о различных штрафах, административных нарушениях, просрочке кредитов, а также уровне образования, доходов, престижности района проживания, семейном статусе и проч. На основании большого числа вводных биографических данных и личных сведений о человеке производится оценка риска его неблагонадежности и степени законопослушности. В соответствии с полученным коэффициентом законопослушности ИИ и устанавливает размер залоговой суммы. В рамках данной системы, например, в судах Нью-Джерси оценка рисков активно применяется судьями для вынесения собственных вердиктов. На первом слушании, где из тюрьмы обвиняемые предстают перед судом при помощи видеоконференции, оценка риска предоставляется судье. Обвиняемые с более низкими оценками освобождаются прямо из зала суда до следующего судебного заседания.