Искусственный интеллект. Этика и право

Все более жестко разворачивающаяся гонка между США и Китаем в области ИИ и больших данных, которые, по сути, на наших глазах из различных областей сливаются в одну, подкрепленную интернетом вещей, позволяет разглядеть еще одну опасность. Уже сегодня очевидно, что тот, кто обладает АЮТ (ИИ + большие данные + интернет вещей) на порядок сильнее и могущественнее того, у кого этого нет. Использование полицией и судебной властью, включая прокуратуру, АЮТ делает одну из сторон судебного разбирательства на порядок более мощной и вооруженной, чем другая. Де фак-то, по мнению экспертов ЕС, это с большой вероятностью подрывает право граждан на независимый и беспристрастный суд, а также равенство сторон в судебном разбирательстве.

Эксперты ЕС полагают, что бесконтрольное использование ИИ и АЮТ в судебной и правоохранительной областях без преувеличения в короткие сроки может уничтожить важнейший европейский принцип соблюдения прав человека и состязательный характер судебного процесса. Использование АЮТ одной стороной процесса, по их мнению, сродни превращению состязания в преодолении местности между людьми в соперничестве человека и автомобиля.

Проще всего было бы запретить использование АЮТ в судебной сфере, тем более что пока в государствах ЕС ИИ применяется только в сфере повышения эффективности судебного документооборота. Однако практика использования новых технологий в мире показывает, что подобного рода запреты не работают,

и любая технология получает соответствующее распространение. К тому же решения ИИ уже сегодня используются криминалом и организованной преступностью[1]. Соответственно, если правоохранительные органы и судебные системы на основе законодательных решений будут лишены АЮТ, тем самым они будут поставлены в заведомо проигрышную позицию по отношению к криминальным структурам.

Вопрос применения ИИ в судебной и правоохранительных сферах – это не вопрос технологий и информационной политики, а политическая и отчасти социально-психологическая проблема. ИИ – это вычислительная система, делающая выбор на основе статистической информации. Как правило, главная проблема, которая решается в подобных системах, это – обеспечение отражения в статистической информации фактического положения дел. Наиболее эффективный ИИ будет принимать или рекомендовать решения на основе реальных связей, зависимостей и отношений, которые выявлены на основе анализа реального положения дел.

Однако, хорошо известно, что политика базируется не на реальном положении дел, а на компромиссе между интересами, возможностями и силой, которой обладают различные группы, слои, страты общества и паттерны давления. Политическая система компромиссов имеет свое отражение и в судебной системе. Любое судебное решение – это ситуативное решение, когда закон применяется к определенной конкретной ситуации. Особенно это очевидно в британском прецедентном праве. Однако в более неявном виде ситуационный принцип реализуется и в так называемом континентальном праве.

Главная проблема использования ИИ в судебной практике это то, что ИИ базируется не на ситуационной логике, а на вычислительных процедурах. ИИ не умеет работать с контекстами. Соответственно, в каждом государстве политические силы должны прийти к компромиссу и установить, в каких сферах и в каких аспектах судебной системы и правоохранительной деятельности можно использовать ИИ, а в каких использование этого инструмента опасно для политического консенсуса.