Полезной рекомендацией также является государственная сертификация и экспертная оценка производителей ИИ для судебной и правоохранительной сферы. В этом же ключе можно рассмотреть возможность организации внешнего аудита технологий ИИ. Мы предлагаем установить порядок, при котором будет соблюдена прозрачность алгоритмической базы и понятность всех решений, принятых ИИ. Данная мера важна для установления защиты от дискриминационных решений, любых типов злоупотреблений, а также возможности выявления ошибки на любой стадии принятия решения. Наиболее эффективной экспертами признается модель неограниченного доступа людей в решения ИИ, когда используется открытая документация и экспликативная модель алгоритмизации. Уже на стадии обучения ИИ программу следует снабдить навыком объяснения своих решений на метаязыке, отличном от объект-языка самого решения. Необходимость данного требования вполне объяснима – все участники судебного процесса (адвокаты, обвиняемые и проч.), в котором судьей выступает ИИ, должны иметь возможность оспорить решения, принятые ИИ-судьей. В дополнение к этому следует позаботиться о том, чтобы все участники судебного процесса получили доступ ко всем входным данным. Кроме того, участникам должно быть предоставлено право на апелляцию не только при участии судьи-человека, но и другого ИИ-судьи. Использование данной услуги может потребоваться, чтобы установить, насколько независимыми являются рекомендации ИИ-судьи, поддерживающего одну из сторон процесса (к примеру, сторону обвинения). Суммируя данные рекомендации, можно сказать, что в них подразумевается своего рода организация системы внешнего аудита ИИ-решений для судебной и правоохранительной сфер. Наиболее предпочтительно, чтобы подобная система аудита функционировала в качестве общественного контроля (независимых правозащитных организаций) и не зависела от производителей ИИ.
Этические аспекты применения и внедрения ИИ в судебной системе в отраслевых сегментах
2. Образование
Образовательные системы различных стран, в том числе России, ориентированы на отбор и выявление молодых людей с определенными способностями и дарованиями. Эта задача стоит локально перед различными образовательными учреждениями, потенциальными работодателями, глобально – в масштабах страны и государства. Одним из приоритетных направлений применения ИИ в данной области является обработка больших данных при анализе наследуемости интеллекта и способностей. В образовании активно внедряются новые технологии для мониторинга эффективности его процессов и результатов. В настоящее время измеряются не только hardskills (знания, результаты использования знаний, которые проще всего квантифицировать), но также и softskills (социальные, коммуникативные, лидерские навыки и т. д.). Одним из результатов применения данной практики ИИ является создание персональных цифровых портфолио, отражающих карту наследования тех или иных компетенций [Nilsson, 1998]. Искусственный интеллект может анализировать успехи обучающихся и их образовательную траекторию.
В России уже реализуется ряд значимых проектов в сфере цифрового образования (подготовка к ЕГЭ, изучение английского языка, цифровые библиотеки учебников, заданий и тестов). Как правило, данные проекты ориентированы на создание платформ образовательных услуг, сводя в едином виртуальном пространстве преподавателей и обучающихся. Платформы анализируют профиль обучающихся, предлагая им индивидуальные траектории обучения (Parla, Examer, Skyeng). Ряд платформ интегрировали большое количество электронных учебников и тестовых заданий (Yandex.учебник и Московская электронная школа). Также отметим проект по прокторингу Proctor.Edu, который позволяет с помощью камеры верифицировать сдающего тест или экзамен, а также формирует оценку доверия к действиям экзаменуемого в реальном времени, непрерывно наблюдая за действиями человека на компьютере перед камерой в режиме реального времени.
2.1. ИИ в области образования