Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Кейс.

В рамках запущенного на Нацплатформе курса по «Философии» были апробированы тестовые задания в форме игр, в которых требовалось найти правильный ответ после прослушанной онлайн-лекции. Студенты различных факультетов НИУ ВШЭ неплохо справлялись с разработанным блоком заданий, и он получил высокий рейтинг при отборе заданий к курсу. В итоговом опросе студентов им был задан вопрос: почему они выбирали один, а не другой ответ; на каком основании формировался выбор. Подавляющее большинство указало, что ответ выбирался только на основании сличения дословно произнесенной лектором информации с той, которая задавалась в тестовом задании. Таким образом, слушатели успешно справлялись с заданием, не понимая «смысла» вопроса и ответа.

Активное внедрение игровых ИИ-технологий, основанных на различных виртуальных эффектах, обсуждается различными специалистами из области психологии образования. Определенные успехи и высокая результативность применения данных технологий (скорость и легкость освоения материала, положительное отношение слушателей к процессу научения, привлекательность образовательных продуктов и многое другое) способствует поддержке и продвижению данных технологий на рынке образовательных услуг. Вместе с тем данные технологии сопровождаются критическим обсуждением, касающимся этической стороны. В частности, поднимаются вопросы об оправданности идеи стирания границ между игрой и обучением. Подобная идея может быть истолкована с точки зрения дидактической полезности любой игры. Если с помощью компьютерных игр можно обучать, будет ли это означать, что обучает любая компьютерная игра? Кроме того, аспекты геймификации характеризуются высоким потенциалом формирования толерантности [Feil-Seifer, Matarić, 2010]. Специалисты отмечают проблематичность присущей игровым технологиям обучения высокой соревновательности, которая может формировать легковесный или узкоцелевой образ получения образовательных навыков. Дискуссионным также остается вопрос о том, в каком соотношении находятся игровые компоненты и способность к обучению. Игровое обучение построено на спонтанных реакциях, автономных и нерефлексивных процессах запоминания и формирования навыков. Процесс освоения цифровых и компьютерных технологий на стороне пользователя является интуитивным. Однако подобные методы освоения не заменяют рефлексивных и сознательных процедур направленного поиска решений, в котором обучаемый прилагает осознанное усилие. Этический аспект описанных трудностей сводится к тому, что обучаемый пассивно вовлекается в процесс, в котором не может самостоятельно дифференцировать игровой компонент от содержания, попадает в определенную группу риска по формированию игровых зависимостей или усиления уже имеющихся.

3. Разновидностью геймификации образовательного и воспитательного процесса является виртуальное моделирование ситуаций, в которых ребенок отрабатывает определенные социальные навыки. Зачастую виртуализация данных компонент связана с некоторым высоким уровнем стресса от события и избеганием его в реальной жизни. Виртуальный помощник призван создать воображаемую и игровую среду, в которой тот или иной социальный навык ребенка может быть либо протестирован, либо сформирован.