Читаем Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система полностью

Полезной рекомендацией также является государственная сертификация и экспертная оценка производителей ИИ для судебной и правоохранительной сферы. В этом же ключе можно рассмотреть возможность организации внешнего аудита технологий ИИ. Мы предлагаем установить порядок, при котором будет соблюдена прозрачность алгоритмической базы и понятность всех решений, принятых ИИ. Данная мера важна для установления защиты от дискриминационных решений, любых типов злоупотреблений, а также возможности выявления ошибки на любой стадии принятия решения. Наиболее эффективной экспертами признается модель неограниченного доступа людей в решения ИИ, когда используется открытая документация и экспликативная модель алгоритмизации. Уже на стадии обучения ИИ программу следует снабдить навыком объяснения своих решений на метаязыке, отличном от объект-языка самого решения. Необходимость данного требования вполне объяснима – все участники судебного процесса (адвокаты, обвиняемые и проч.), в котором судьей выступает ИИ, должны иметь возможность оспорить решения, принятые ИИ-судьей. В дополнение к этому следует позаботиться о том, чтобы все участники судебного процесса получили доступ ко всем входным данным. Кроме того, участникам должно быть предоставлено право на апелляцию не только при участии судьи-человека, но и другого ИИ-судьи. Использование данной услуги может потребоваться, чтобы установить, насколько независимыми являются рекомендации ИИ-судьи, поддерживающего одну из сторон процесса (к примеру, сторону обвинения). Суммируя данные рекомендации, можно сказать, что в них подразумевается своего рода организация системы внешнего аудита ИИ-решений для судебной и правоохранительной сфер. Наиболее предпочтительно, чтобы подобная система аудита функционировала в качестве общественного контроля (независимых правозащитных организаций) и не зависела от производителей ИИ.

Этические аспекты применения и внедрения ИИ в судебной системе в отраслевых сегментах

2. Образование

Образовательные системы различных стран, в том числе России, ориентированы на отбор и выявление молодых людей с определенными способностями и дарованиями. Эта задача стоит локально перед различными образовательными учреждениями, потенциальными работодателями, глобально – в масштабах страны и государства. Одним из приоритетных направлений применения ИИ в данной области является обработка больших данных при анализе наследуемости интеллекта и способностей. В образовании активно внедряются новые технологии для мониторинга эффективности его процессов и результатов. В настоящее время измеряются не только hardskills (знания, результаты использования знаний, которые проще всего квантифицировать), но также и softskills (социальные, коммуникативные, лидерские навыки и т. д.). Одним из результатов применения данной практики ИИ является создание персональных цифровых портфолио, отражающих карту наследования тех или иных компетенций [Nilsson, 1998]. Искусственный интеллект может анализировать успехи обучающихся и их образовательную траекторию.

В России уже реализуется ряд значимых проектов в сфере цифрового образования (подготовка к ЕГЭ, изучение английского языка, цифровые библиотеки учебников, заданий и тестов). Как правило, данные проекты ориентированы на создание платформ образовательных услуг, сводя в едином виртуальном пространстве преподавателей и обучающихся. Платформы анализируют профиль обучающихся, предлагая им индивидуальные траектории обучения (Parla, Examer, Skyeng). Ряд платформ интегрировали большое количество электронных учебников и тестовых заданий (Yandex.учебник и Московская электронная школа). Также отметим проект по прокторингу Proctor.Edu, который позволяет с помощью камеры верифицировать сдающего тест или экзамен, а также формирует оценку доверия к действиям экзаменуемого в реальном времени, непрерывно наблюдая за действиями человека на компьютере перед камерой в режиме реального времени.

2.1. ИИ в области образования

Кейс. В 2014 году группа британских ученых провела исследование образования с использованием ИИ и выявила, что различия в успеваемости между учащимися связаны с их происхождением и семьей. Это наблюдается с ранних школьных лет и до момента завершения среднего образования. По окончании средней школы британские абитуриенты сдают по всей стране стандартные тесты (общий сертификат среднего образования GCSE) [Vincent, 2016].

Перейти на страницу:

Похожие книги

21 урок для XXI века
21 урок для XXI века

В своей книге «Sapiens» израильский профессор истории Юваль Ной Харари исследовал наше прошлое, в «Homo Deus» — будущее. Пришло время сосредоточиться на настоящем!«21 урок для XXI века» — это двадцать одна глава о проблемах сегодняшнего дня, касающихся всех и каждого. Технологии возникают быстрее, чем мы успеваем в них разобраться. Хакерство становится оружием, а мир разделён сильнее, чем когда-либо. Как вести себя среди огромного количества ежедневных дезориентирующих изменений?Профессор Харари, опираясь на идеи своих предыдущих книг, старается распутать для нас клубок из политических, технологических, социальных и экзистенциальных проблем. Он предлагает мудрые и оригинальные способы подготовиться к будущему, столь отличному от мира, в котором мы сейчас живём. Как сохранить свободу выбора в эпоху Большого Брата? Как бороться с угрозой терроризма? Чему стоит обучать наших детей? Как справиться с эпидемией фальшивых новостей?Ответы на эти и многие другие важные вопросы — в книге Юваля Ноя Харари «21 урок для XXI века».В переводе издательства «Синдбад» книга подверглась серьёзным цензурным правкам. В данной редакции проведена тщательная сверка с оригинальным текстом, все отцензурированные фрагменты восстановлены.

Юваль Ной Харари

Обществознание, социология
Антипсихиатрия. Социальная теория и социальная практика
Антипсихиатрия. Социальная теория и социальная практика

Антипсихиатрия – детище бунтарской эпохи 1960-х годов. Сформировавшись на пересечении психиатрии и философии, психологии и психоанализа, критической социальной теории и теории культуры, это движение выступало против принуждения и порабощения человека обществом, против тотальной власти и общественных институтов, боролось за подлинное существование и освобождение. Антипсихиатры выдвигали радикальные лозунги – «Душевная болезнь – миф», «Безумец – подлинный революционер» – и развивали революционную деятельность. Под девизом «Свобода исцеляет!» они разрушали стены психиатрических больниц, организовывали терапевтические коммуны и антиуниверситеты.Что представляла собой эта радикальная волна, какие проблемы она поставила и какие итоги имела – на все эти вопросы и пытается ответить настоящая книга. Она для тех, кто интересуется историей психиатрии и историей культуры, социально-критическими течениями и контркультурными проектами, для специалистов в области биоэтики, истории, методологии, эпистемологии науки, социологии девиаций и философской антропологии.

Ольга А. Власова , Ольга Александровна Власова

Медицина / Обществознание, социология / Психотерапия и консультирование / Образование и наука