Конец индивидуума. Путешествие философа в страну искусственного интеллекта

О появлении такой альтернативы классической демократии мне рассказала в Сан-Франциско Амира Яхьяуи, энергичная предпринимательница. Я был немного смущен нашей встречей: единственная Амира Яхьяуи, которую мне удалось найти в интернете, – молодая активистка, боровшаяся за права человека в Тунисе, где ее преследовал режим Бена Али. Она долго жила во Франции, покинув родину, потом основала НКО Al Bawlasa, оказавшую значительное влияние на разработку новой тунисской Конституции. Какое отношение все это имеет к стартапу Mos.com, цель которого – сократить давление бюрократии в жизни американцев, в частности упростить подачу документов на получение стипендий при поступлении в высшее учебное заведение (это очень важная для США проблема, где плата за обучение часто очень высока)?

Несмотря на все предубеждения, я вынужден признать, что речь об одном и том же человеке – очаровательной разговорчивой женщине в яркой футболке. Ее суждения оригинальны. Мы говорим по-французски. Какая редкость – столкнуться с мыслью в движении! Амира считает, что вместе с ИИ открывается эпоха «прав без демократии». Цифровые услуги, адаптирующиеся к самым тайным нашим потребностям, формируют вполне обоснованное чувство того, что нам все обязаны. Мы не хотим терпеть волокиту, дискомфорт, проволочки? Отлично! Технологии породили в нас такое требование к услугам, которое не смогла бы заменить никакая Декларация прав человека. Не все могут быть активистами, но кто не пользуется смартфоном? Вот и обращаться нужно не столько к гражданину, сколько к потребителю. «Человека надо воспитывать так, чтобы внушить ему чувство, будто у него есть право на все», – провокационно заявляет Амира. Впрочем, это и есть цель mos.com: за американского студента отвечает платформа, а потому он может не блуждать среди тысяч критериев и процедур. Нет нужды знать во всех подробностях тексты, которые нами управляют, или подсчеты, упрощающие наши решения: достаточно отдать себя в руки ИИ. В мире, управляемом принципом полезности, «решение состоит в том, чтобы позволить собой руководить», – ставит точку Амира. Я пытаюсь робко отстаивать свободу воли. Но Амира безжалостно меня обрывает: «Мне на это плевать». Все, в общем, ясно…

Сколько раз мы слушали жалобы какого-нибудь политика на миллениалов, которые выросли в среде цифровых инструментов, а потому требуют прав, но знать не хотят об обязанностях? Может, это и есть свойство поколения, взрослевшего вместе с развитием машинного обучения, – а еще и знак полного упадка избирательной функции. Неудивительно, что эти политики так боятся ИИ, который постепенно отнимает у них всякую легитимность.

Это рассуждение могло бы показаться подозрительным, если бы его не развивала активистка с бесспорным послужным списком. Для Амиры здесь никакого противоречия: она защищала фундаментальные права тунисцев, начиная со свободы слова, и точно так же сегодня пытается вписать дополнительные права, например право на обучение людей со скромным достатком, в повседневную жизнь американцев. В обоих случаях эти права отличаются от демократического выбора. Напротив, они должны сопротивляться всякому политическому воздействию, какова бы ни была актуальная политическая власть. «Правительства – это тормоз», – прямо говорит мне Амира. С ее точки зрения, их исчезновение – не повод для сожаления. В этом ее рассуждения сходятся с тезисами политолога Яши Мунка, с которым я встретился в лондонском офисе Тони Блэра. Яша занимался теорией этого разрыва между, с одной стороны, «правами без демократии», которые гарантируются судьями или бюрократами, а с другой – «демократией без прав», несвободной и плебисцитарной (как та, что развивается в России и Турции, а также в Венгрии и даже США)[139]. Но если центрист Яша Мунк боится кризиса либерализма, Амира радуется победе технологий.

Итак, мы видим, как может родиться определенная форма правления на базе полезности, диффузно обеспечиваемой сетевым ИИ. Платформы подсчитывали бы показатели удовольствия и страдания граждан точнее правительств. Удивительно, что Амира, такая принципиальная индивидуалистка, проповедует сильное чувство сообщества, в данном случае – предпринимателей Кремниевой долины, в котором она, похоже, по-настоящему расцвела. Не образует ли этот мнимый парадокс самого сердца утилитаризма? Максимальное счастье – но для максимального числа людей.

Философия без субъекта

Читатель, возможно, помнит о Евгении, основательнице стартапа Replica, которая в первой главе этой книги носилась на скейтборде. Быть может, причина была в ее русских корнях или в природе ее продукта – странного виртуального компаньона, который способен создавать любовные отношения и воскрешать мертвых, – но так или иначе Евгения не скупилась на метафизические рассуждения. Посреди разговора она вдруг объявила, что первое название ее компании, созданной в 2013 году, – «Тысяча плато».