Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Кейс.

В 2018 году некоторые школы США внедрили образовательный продукт, комплект программ FearNot, в котором создавались виртуальные миры с различными персонажами. Ресурс нацелен на формирование социальных навыков у детей в ходе общения с виртуальными персонажами. Программа инсталлирует различные повседневные коллизии, требующие эмоциональной и социальной вовлеченности. Целью программы является формирование у детей навыков сопереживания, взаимовыручки и коллективной поддержки в ситуациях, когда по разным причинам в реальном пространстве ребенок с подобными вызовами не сталкивается. В частности, даже если ребенок не был жертвой или свидетелем буллинга, программа имитатор инсталлирует подобную ситуацию, в которую ребенок принудительно интегрируется как актор. Одним из побочных мотиваторов создания подобных программ является также идея апробации способов помощи подросткам в определенной ситуации (например, жертвам буллинга), а также разработки лучших способов взаимодействия в межподростковой среде (например, противодействию буллингу).

Аспекты геймификации сопровождаются широким резонансом и обсуждениями. В них этические споры занимают не последнее место. Ключевой момент, вызывающий тревогу, – психологические последствия внедрения виртуальных помощников. Под последними понимаются как персонифицированные элементы, так и смоделированные жизненные ситуации. Открытым остается вопрос об оправданности виртуального моделирования процессов, в которые ребенка принудительно погружают и которые могут причинить вред его психике. В частности, при моделировании ситуаций с буллингом система развивает социальные навыки ребенка, равно как тестирует социальный потенциал выработанных рекомендаций и норм поведения. Однако оправданность нагрузок, которые при этом испытывает ребенок, может вызывать вопросы. Превентивность формирования определенных социальных навыков в условиях стресса может вызвать сопротивление как родителей, так и самих детей. Кроме того, некоторые из разыгранных ситуаций могут вызывать неоднозначные последствия. Результатом общения с виртуальным помощником может стать проактивное поведение, а именно решение воспроизвести в реальных условиях проигранный в виртуальном сеансе игры сценарий. Подобные намерения и их реализация могут указать на провоцирующий характер виртуальных помощников, моделирующих социально опасные и нежелательные ситуации. Как следствие, не стоит ожидать большой поддержки таких программ со стороны общества.

4. На качество образования могут повлиять и особые консультативные программы, призванные сгенерировать персональные и индивидуально релевантные тактики обучения, выбор профессии, перспективность приобретения определенной квалификации отдельно взятым лицом. Данные стратегии нацелены на оптимизацию выбора пути профессионального развития человека. Они строятся на основе тестирования и анализа его природных и приобретенных способностей. Программы ИИ направлены на выполнение данных функций и активно генерируются в современные консультативные центры и методики индивидуального обучения. Концепция персонифицированных траекторий образования активно развивается уже сейчас, однако, согласно оценке специалистов, будущее образование будет в значительной степени ориентировано на уход от массовости образования в сторону специально подобранных карт обучения и повышения квалификации, разработанных под специфические потребности отдельных людей. Немаловажную роль в создании таких подходов играют комплексы программ по тестированию индивидуальных особенностей молодых людей на наличие врожденных способностей и дарований, равно как их обучаемости необходимым навыкам. Определенные типы ИИ, подготовленные для этих целей, активно работают последние десятилетия в виде консультативных программ подбора будущих профессий, рекомендуемых школьникам, абитуриентам или студентам.