Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Кейс.

Обучающая система Smart Sparrow была внедрена в некоторых школах США и уже зарекомендовала себя как пользующаяся большим успехом как у учителей, так и учеников. В рамках данной программы обучения за каждым учеником закрепляется своя история успеха, а также личный профиль прогресса при освоении курса. Задания строго индивидуализированы и гибко подстраиваются под средний коэффициент успеваемости отдельно взятого ученика в определенный отрезок времени. Ни у кого, кроме самого ученика и преподавателя, ведущего курс, нет доступа к профилю каждого ученика.

Методики, подстраивающиеся под уровень обучаемых, пользуются большим спросом в силу демократичности процесса обучения, гуманистического замысла проекта, высокой доли учета индивидуальных особенностей каждой отдельной личности в глазах самих обучаемых и высоким мотивационным потенциалом. Вместе с тем данные программы вводят самих обучающихся в некоторое заблуждение в отношении их истинных успехов в процессе обучения [Bankins, Formisa, 2019]. Система персональной настройки оценки качества освоения материала могла бы полностью оправдать себя только в условиях, когда общество в целом отказывается от стандартизированных процедур оценки на всех уровнях. Хотя шаблонные критерии оценки качества труда или успеха обучения пока не применяются повсеместно, использование их в отдельно взятом сегменте может способствовать разрыву в оценках и искаженному представлению обучающегося о собственном прогрессе. Успешность освоения той или иной программы конкретным абитуриентом может не найти подтверждения в его последующем карьерном росте или продолжении обучения. Данное обстоятельство дает основания для этических споров о том, вводят ли системы индивидуальной оценки успешности обучения в заблуждение тех, кто по ним обучается [Danaher, 2019]. В какой степени можно говорить о соответствии оценок, которые обучаемый получает внутри системы «подстраивающегося» обучения, и широком признании результатов его персонифицированного успеха?

2.2. Перечень рекомендаций

Внедрение многих образовательных технологий на основе ИИ требует особой щепетильности на всех стадиях реализации. Во-первых, прогностические технологии должны иметь статус рекомендаций, обязательна предварительная информированность всех участников о специфике работы программ, а также исключительно добровольное их участие. Важна также экспертная оценка эвристического потенциала технологий, что может быть поручено соответствующим специалистам как по дидактическому профилю, так и по профилю цифровой грамотности. При создании и внедрении ИИ-технологий в сфере образования обязательно консультирование психологов, в том числе специалистов по возрастной психологии. В комплексе с другими измерительными процедурами, необходимо лонгитюдное исследование эффективности инструментов, а также отсутствие ущерба для обучающихся пользователей.

Контроль за разработкой и внедрением ИИ-технологий в образовании может быть возложен частично на руководство самих университетов, различные научно-исследовательские группы, общественный и государственный контроль. Важно избегать централизации, в том числе государственной. Цели и критерии надзора должны соответствовать разным жизненным контекстам и окружению, способствовать развитию навыков коллективной работы, в том числе быть готовыми к межкультурному диалогу при работе над проектами.

В общем и целом распространение технологий ИИ в области начального, среднего и высшего образования должно сопровождаться особым социально-гуманитарным экспертным консультированием. При отсутствии общественной поддержки и пристального коммерчески незаинтересованного социального мониторинга, существует опасность понимания эффективности как сугубо количественной характеристики. Сохранение ценностной и гуманистической основы возможно только в случае учета культурных и общечеловеческих ценностей, не всегда подлежащих наукометрическим стандартам. Именно поэтому контроль за применением ИИ в области образования должен быть возложен на общественные институты, частично поручен государственным контролирующим органам, но непременно при условии открытого общественного обсуждения. Оправданным представляется внедрение специального курса, обучающего этике ИИ, который преподавался бы отдельным специалистам, в том числе специалистам в области госуправления.