Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Профессор Дэвис вовсе не чувствует себя виноватым. Тодд Дэвис, психолог и в то же время специалист по ИИ, который носит походные ботинки, словно готов в любой момент сорваться с места, соединяет в себе бунтарский прогрессизм гуманитарных наук с аналитической строгостью информатики. Уж он-то точно знает, как изобличить «социальную оптимизацию», скрывающуюся в современных техниках машинного обучения. Нами не только манипулируют, нас не только подталкивают и лишают самой способности делать выбор — мы к тому же поневоле становимся слугами общества. «Это новое человечество», — говорит профессор. Человечество, более близкое к лучшему из миров Хаксли, в котором святая святых — это счастье, а солипсизм осужден, чем к калифорнийской контркультуре, одним из последних наследников которой и кажется мне Тодд Дэвис. «Это политический вопрос», — подчеркивает он. Но кто его сегодня обсуждает? Возможно, незаметно для себя мы уже согласились с чисто утилитаристской концепцией совместной жизни? Быть может, когда беспилотный автомобиль станет для нас привычным, мы откажемся от самой возможности обманывать Google Maps? Что, если тех, кто пытается его провести, будут наказывать за асоциальное поведение?

Питер Тиль, знаменитый предприниматель из Кремниевой долины и ярый либертарианец, прямо говорит, что «ИИ является коммунистическим». Но в цифровой оптимизации выявляется такое холистическое представление об обществе, которое вступает в противоречие с логикой промышленной эпохи. Если производитель дорожных карт хотел оказать вам лучшую услугу, то создатель навигационного GPS-приложения стремится сделать счастливыми максимальное число пользователей. Это позволяет понять, почему сайты знакомств не довольствуются предложением тех профилей, которые соответствуют открыто заявленным вами критериям. Подобно Google Maps, они пытаются увеличить подвижность трафика, чтобы избежать пробок перед наиболее соблазнительными профилями…

Теперь можно понять, в чем истинный смысл избитого лозунга цифровых предпринимателей: «Make the world better» — «Делай мир лучше». Речь идет не о филантропии, а об императиве, составляющем сердцевину технологии. Во-первых, «мир» — поскольку ни один продукт, связанный с ИИ, не может ограничиваться удовлетворением индивидуальной потребности: в агрегации данных и распределении рекомендаций он должен учитывать максимально широкое сообщество, а в конечном счете и все человечество в целом. Вот почему Марк Цукерберг, которому удалось объединить на фейсбуке около трети всего человечества, в одном из своих редких публичных выступлений поделился желанием создать глобальное сообщество[98]. Во-вторых, слово «лучше». В каком смысле «лучше»? Какова конечная цель? Теперь нам это известно: полезность, то есть максимизация удовольствия для всех. А для количественной оценки счастья и нормирования его распределения, несомненно, нет ничего лучше ИИ — инструмента, о котором мечтали в гедонистическом исчислении Бентама.

Это сочетание nudge и утилитаризма отлично описывает австрийская исследовательница — я встретил ее в Университете Джорджа Вашингтона. Юлия Пуашундер, несмотря на изнуряющую жару одетая в элегантный белый пиджак с цветами, придумала удачный неологизм «наджитал» (nudgital) — смесь nudge и капитала. Это понятие позволяет ей критиковать «современную поведенческую политическую экономию». В этой формуле можно заметить синтаксическую легкость немецкой философии, но на деле она соответствует ставкам ИИ. Если поведение индивида предсказуемо, им можно манипулировать; такая манипуляция принимает форму nudge, производимого ИИ; этот nudge работает в соответствии с одним точным критерием (а потому мы попадаем в область «политической экономии») — полезности для нас и для других. Чем больше мы делимся информацией, чем больше производим данных, тем больше информации поставляем платформам и тем больше nudge получаем взамен; а чем больше нас «подталкивают», тем большего благосостояния мы достигаем. Отныне отношения господства и подчинения устанавливаются между теми, кто осуществляет nudge, и теми, кто его претерпевает, а не между социальными классами. И наоборот: чем меньше мы делимся информацией, тем больше сохраняем фактической свободы и тем больше становимся в собственном смысле слова бесполезными. В эру «наджитала» распространение информации — это рабство, но изоляция — это самоустранение: поистине адская дилемма!

Осталось не так много Тоддов Дэвисов, которые могли бы критиковать социальную оптимизацию и выступать за случайность и индивидуальное изменение. Сегодня общее благо — самая модная штука. Молодые предприниматели и американские мыслители восторгаются перспективой этого безграничного роста эффективности. Но мы ошибемся, если сведем ИИ исключительно к бизнес-модели. Речь идет о настоящем социальном проекте, претворяемом в жизнь совершенно честно и с большим воодушевлением.