Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Это бессилие государства объясняется не только техническими причинами, но и более серьезным вызовом тому общественному договору, который два столетия поддерживал наши политические системы в концепции, что закон — проявление общей воли. Как и с исчезновением посредников в торговле[136], ИИ создает неприятную ситуацию для самого понятия политического представительства: почему я могу получить заточенные под меня товары и персональные рекомендации, а в политике должен довольствоваться депутатом, избираемым каждые четыре-пять лет? Неудивительно, что это становится основанием для призывов перейти к прямой демократии или императивному мандату. В своих «Рассуждениях о правительстве в Польше» Руссо объясняет, что только практические препятствия, такие как слишком обширная территория или слишком многочисленное население, могут оправдать создание представительного законодательного собрания. Однако эти препятствия исчезают в цифровую эпоху, когда каждый может в любой момент голосовать по любому вопросу. Давайте пойдем еще дальше: определять общую волю по большинству, пусть даже на референдуме, — это слишком простой и неточный подход, если сравнивать с оптимизацией индивидуальных предпочтений, на которую способны алгоритмы. Почему бы тогда не предоставить ИИ, вскормленному мнениями граждан, решение вопросов публичной политики?[137] Какой, собственно, вопрос остается общим в утилитаристском мире, где ИИ распределяет ресурсы (сырье, произведенные товары или интеллектуальный капитал) так, чтобы достичь максимального счастья максимального числа людей? Бентам свел роль правительства к обеспечению физической безопасности граждан, в остальном же рекомендовал ему не вмешиваться («Be quiet!», «Тихо!» — как говорят детям). Конечно, сегодня правительства далеки от спокойствия, они пробуют так и эдак доказать свою легитимность, но разве это не ажитация от отчаяния, разве не лебединая песнь представительской системы? Что еще они могут предложить, со всеми своими запретами и угрозами, гражданину, который с удовольствием подчиняется то одной рекомендации, то другой? Разве сама идея голосования, индивидуального и осведомленного решения, совместима с концом свободы воли?

Эту тему я без особого успеха поднял в разговоре с политологом Ли Дратманом, который сегодня работает с аналитическим центром New America. Ли скептически относится к тому, что ИИ якобы может перевернуть институциональные политические структуры. Этот вопрос, возникший во властных кругах несколько лет назад, представляется ему устаревшим. Ли даже готов оспорить случаи поляризации, связываемые с социальными сетями. Я уже готовился уйти с пустыми руками, когда Ли, внезапно поднявшись со стула, перестал сыпать академическими ссылками и углубился в личные размышления: разве в автоматизированном обществе, в котором за решения граждан все чаще отвечают роботы, мы не выйдем из самого демократического процесса, уступив всю территорию автократам? Ли использует выражение «check out», «выписаться»: не получится ли так, что мы откажемся от политики так же, как сегодня выписываемся из отеля, не оборачиваясь, унося с собой свои чемоданы? Не породит ли пристрастие к благополучию окончательного безразличия? Об этом беспокоился уже Токвиль: в индивидуалистическом обществе, в котором вкус к материальным удовольствиям отдаляет граждан от общественных интересов, коллективные решения можно было бы беззаботно доверить первому, кто готов их на себя взять[138]. «Когда масса граждан желает заниматься лишь частными делами, даже самые мелкие партии не должны терять надежду на то, что станут господами дел публичных».

Мне, однако, кажется, что за вопросом о «выписывании» стоят все те вопросы, которые Ли столь поспешно отверг. Граждане выходят из демократического процесса не из-за лени или беззаботности, а потому что они чувствуют, что могут удовлетворить свои желания иначе. Словно бы ИИ и компании, его распространяющие, обеспечивают им достаточно комфортную жизнь, чтобы они могли избавиться от нужды принимать коллективные решения. Если мое благополучие оптимально гарантируется тысячами приложений и подключенных к сети объектов, зачем голосовать за какого-то представителя? Если Facebook принимает решение о моей свободе слова, зачем избирать Конгресс и спорить о Первой поправке? Если рассчитанная хореография беспилотных автомобилей отвечает моим потребностям, нужен ли общественный транспорт? Поскольку ИИ оказался одновременно персонализированным и коллективистским, поскольку он заботится обо мне как уникальном существе и в то же время обеспечивает успешное функционирование группы, он стремится ограничить область коллективного обсуждения так, чтобы в итоге можно было обойтись вообще без публичной политики.