Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Эти теории свободы воли сегодня в моде, они предоставляют сильные аргументы, оправдывающие современное применение ИИ, когда машина все больше заменяет индивидуальное суждение. Модные критики «надзорного капитализма»[83], даже если они правы в констатации общей манипуляции поведением, с моей точки зрения, упускают эпистемологическое основание этих практик. Задача не только в получении прибыли, но и в том, чтобы принести людям добро вопреки их сознательным предпочтениям. Как верно пишет социолог Доминик Кардон, изучающий большие данные, «опираясь в значительной мере на работы по психологии и экспериментальной экономике, архитекторы новых алгоритмов больших данных уверяют, что следует доверять только реальному поведению людей, а не тому, что они, по их собственному мнению, делают, когда рассказывают о себе»[84]. Цель этой работы по сбору данных, позволяющей определить наше реальное поведение, скрытое за явными намерениями, – получить возможность тонкой настройки наших будущих действий и мыслей. Как только индивиды освобождаются от категорий и усредненных величин, они, поскольку их обрабатывают, учитывая их индивидуальность, становятся «механическими мышами в лапах вычислителей»[85]. Мышами, которые не могут выбраться из своего лабиринта, поскольку игра корреляций стремится стабилизировать наши собственные характеристики. Как указывает мне Эммануэль Кандес, статистик из Стэнфорда, корреляция становится нормативной. Невозможно убежать от самого себя.

Было бы слишком просто не принимать всерьез благие намерения технологической сферы. Общество турникетов – это прямое следствие отказа от свободы воли. А раз свобода воли – фикция, почему бы не положиться на сеть хорошо продуманных стимулов? Если наши решения все равно страдают от предвзятости, почему бы не делегировать управление нашими интересами системам, которые знают их лучше нас самих? Не является ли nudge, внедряемый правительствами, а также частными компаниями, решением всех наших проблем?

Универсальный nudge

ИИ в той форме, в какой он ныне понимается цифровой индустрией, в полной мере задействован в этом универсальном nudge, обеспечивая персонализацию и оптимизацию. Каждого подталкивают в зависимости от предоставленных им данных, которые позволяют точно идентифицировать его поведение. Nudge определяют по двум критериям: во-первых, по уровню благосостояния пользователя, во-вторых, по степени коллективной полезности. И в этом он, безусловно, имеет самое прямое отношение к политике.

Эта глубинная функция ИИ предстала передо мной на закате, на террасе в Венис-Бич, где я пил пиво с Рамсеем Брауном, основателем стартапа Boundless AI и одним из самых колоритных людей, с какими мне довелось встретиться. Рамсей со своей ухоженной бородой, расстегнутой до пупка гавайской рубашкой и бритым по бокам черепом представляет собой удивительную смесь православного священника, Бернара-Анри Леви и Джастина Бибера. Он радостно затащил меня на пляж на западе Лос-Анджелеса, в квартал, где тусуются молодые технари, которых из Кремниевой долины прогнали высокие цены на недвижимость. В итоге мы оказались в его скромном бунгало, где пили торфяной виски, курили турецкие сигареты с гвоздикой и проговорили несколько часов. Рамсей поведал мне о своих сомнениях с поистине редкой откровенностью – откровенностью честного человека, погруженного в самую инвазивную технику, которую только знало человечество.