Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Контраст между Uber и Didi высвечивает радикальную дилемму: если предположить, что ИИ может обеспечивать почти полной информацией, нужно ли держаться за рынок по принципиальным резонам или следует согласиться, ориентируясь на эффективность, на определенную форму полного планирования? Не согласится ли в итоге Джонатан, все еще не отказавшийся от либеральных идеалов, с практическими преимуществами модели его конкурента?

В этом случае ИИ прямо атакует свободу воли, в данном случае — способность Homo œconomicus принимать собственные решения на свободном рынке.

Правосудие без виновных

Массовое внедрение ИИ в американскую судебную систему стало предметом пристального внимания. Мы поговорим о двух вопросах разной степени важности. Первый, более громкий, но менее фундаментальный, касается автоматизации применения закона. Уже сегодня алгоритмы используются судами для упрощения вынесения решения, поскольку наши своды законов стали слишком сложными[114]. Похожие технологии начали применять и адвокаты. Николь Кларк, с которой я встретился в чайной в Лос-Анджелесе, основала стартап машинного обучения для корреляционного анализа истории решений и корректировки защитных речей. Вполне возможно, что судебные процессы станут состязаниями искусственных интеллектов. Сегодня Николь опирается на решения, вынесенные судьей-человеком, и применяет к ним сложный семантический анализ. Но уже завтра ее машина сможет приступить к интерпретации машины-судьи, причем каждая будет пытаться проникнуть в алгоритмы другого… Проблемы, поднимаемые этими инновациями, хорошо известны и широко обсуждаются. С одной стороны, это риски дискриминации (недавно выяснилось, что алгоритмы, оценивающие риски рецидива, содержали в себе структурное предубеждение против афроамериканцев[115]), с другой — невозможность разъяснить все суждение в целом, обусловленная «черным ящиком» машинного обучения, с которым мы уже сталкивались. Но эти проблемы, какие бы тяжелые следствия они ни влекли, остаются, по сути, техническими, а потому могут быть устранены благодаря прогрессивному развитию ИИ, который сможет скорректировать порожденные им предубеждения и разработать процедуры «объяснимости». Все большее распространение получают принципы ответственности и прозрачности при применении алгоритмов[116]. В той мере, в какой современное правосудие должно отвергать любой элемент личной мести, справедливо и бесстрастно применяя право, автоматизация правоприменения, похоже, не противоречит принципам наших демократических обществ. Как показывает одно часто цитируемое исследование, рассуждения судей-людей зависят от состояния их желудков: выносимые ими приговоры обычно суровее к середине дня, чем после обеда[117]. ИИ мог бы исправить этот очевидный фактор несправедливости. Собственно, разве Чезаре Беккариа, юрист эпохи Просвещения, который преобразовал наше представление о пенитенциарной системе, не требовал «автоматичности» наказаний, поскольку не доверял ни одной интерпретации закона судьей?[118] Уж он-то, наверное, рукоплескал бы развитию ИИ, обещающему полную объективность…