Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Итак, два-три века мы жили, воображая, что у индивида есть права и что его решения принадлежат ему и никому больше. Считая себя разумными, мы на самом деле были безумными. Разум, которым мы бахвалились, свобода, которой мы наслаждались, гражданские права, которые мы отстаивали, искусство, к которому мы взывали, – все это было привилегией элиты. Почему у некоторых было право быть индивидами, полноценными личностями, а у других его не было? ИИ положит конец этому лицемерию. Он срежет под корень наши различия, капризы, нашу уникальность. Мы снова станем хорошо управляемым обществом, однородным племенем, трудолюбивым муравейником, в котором каждый печется об общем счастье и где все вкладываются в счастье каждого.

«Офицер говорит: не рассуждайте, а упражняйтесь! Советник министерства финансов: не рассуждайте, а платите! Духовное лицо: не рассуждайте, а верьте!» – вот как Кант описал темные века покорности и невежества, которые должны были завершиться просвещением, когда каждому будет дана смелость пользоваться своим собственным умом. Sapere aude! Осмелься думать! Вот лозунг, возвестивший лучшее будущее. Но сегодня психолог снова говорит: не рассуждайте, вы ошибаетесь! Специалист по нейронаукам: не рассуждайте, вы во власти иллюзий! Экономист: не рассуждайте, вы разоряетесь! Наконец, специалист по компьютерным наукам твердит нам: не рассуждайте, дайте мне этим заняться… И у каждого из них есть убедительные аргументы. Вот в чем суть парадокса: у машины есть свои резоны, которые больше неведомы нашему разуму.

Мы вот-вот изобретем высшую, изощренную форму добровольного рабства. Во времена Ла Боэси мы были прикованы к тирану – но решитесь не служить ему, и вот вы свободны. Во времена Токвиля мы лениво покорялись грозной опекунской власти, власти государства – но тяги к независимости было достаточно, чтобы выйти из этого состояния оцепенения. Даже во времена, описанные в антиутопии «Дивный новый мир», когда мы отдали власть над собой принципу удовольствия, еще существовало центральное правительство, от которого герои, не подчиняющиеся норме, могли осмелиться потребовать отчета. Но теперь, во времена ИИ, мы подчинены только самим себе, нашим мнениям, вкусам, поведению и нашим любовным историям, которые постоянно воспроизводятся, незаметно модифицируются и безмерно возвеличиваются. Принимая куки и условия пользования, делясь бесконечным числом личных данных, мы сами создаем сковывающие нас кандалы. Мы стали своими собственными деспотами. Кто захочет, освобождаясь от самого себя, рискнуть стать другим?

Что станет с безумцами, гениями, бродягами, небесными странниками, всеми теми, кто был солью человечества? Их тоже затянет в орбиту «полезности». Вначале они будут противиться. Некоторые станут пятиться назад. Но как и, главное, зачем сопротивляться? Уставшей рукой они толкнут первый турникет… А потом сами, по своей воле, пойдут по тому же пути, столь простому и удобному, столь, по сути дела, логичному.