Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Если такова позиция умеренных, подумал я, у меня нет никаких шансов среди настоящих либертарианцев — критиков всякой формы центральной власти, которые обычно оказываются поклонниками радикальной инновации и с нетерпением ожидают наступления «сингулярности», обещанной трансгуманизмом, то есть слияния в вечном экстазе нейрона и силикона. Поэтому я был приятно удивлен тем, с каким вниманием выслушал меня на кампусе Google Патри Фридман. Вопреки всему моему скептицизму, посещение штаб-квартиры Google в Маунтин-Вью оказалось опытом настоящей инициации. Меня необыкновенно взволновала мысль о том, что меня туда приведут Google Maps, словно бы машина нашла свой исходный путь: все дороги ведут в Google. Не оставил меня равнодушным и сам Патри Фридман: внук Милтона Фридмана, основателя Чикагской экономической школы — оплота неолиберализма, и сын Дэвида Фридмана, анархо-капиталиста, создавшего теорию приватизации правосудия. Патри же основал Seasteading Institute, чья цель — построить в международных водах искусственные острова, неподвластные ни одному государству. Итак, в огромном детском саду, который представляет собой кампус Google, среди волейбольных площадок, тобоганов и многоцветных шезлонгов, я пил кофе с радикалом в третьем поколении.

Патри оказался довольно восприимчивым к вопросу автономии. Действительно, ИИ не должен погружать нас в своего рода рыночный коллективизм, в котором индивидуальное поведение определялось бы некоей таинственной алгоритмической формулой.

Неужели кто-то наконец понял мои вопросы?

Но радость моя была недолгой… Вот ответ Патри на эту угрозу: достаточно будет посредством электродов, имплантированных в наши нейронные контуры, увеличить мощность нашего мозга, чтобы обрести еще более сильную свободу воли. Иначе говоря, ИИ, интегрированный прямо в наш мозг, одержит верх над детерминизмом технологии. Трансгуманизм даст нам инструменты свободы. Сам став ИИ, я смогу избежать манипуляции со стороны других ИИ. Но что в таком случае останется от этого «Я», которое, однако, хочется сохранить? Зачем возвращать себе контроль, если сознательный субъект размоется в технологической аугментации? Что мы выиграем, когда наложим на себя ограничения ИИ? Это похоже на самоубийство из страха смерти.

Кроме того, гипотеза Патри кажется мне в научном плане фантастичной. «Достаточно вставить чип в мозг» — это фантазия для технофилов из Кремниевой долины и их китайских единомышленников, последний ответ на любой антропологический вопрос, окончательный аргумент, одновременно неопровержимый и недоказуемый, цифровой эквивалент воли Бога, который, как известно еще со Спинозы, является прибежищем невежества. Вам нужны свобода выбора, счастье, власть, ум или эмпатия? Надо просто подождать, скоро у нас появится подходящий чип. На что он будет похож, на какие нейронные контуры он будет действовать? Неважно, наверняка найдется какой-нибудь стартап, который решит эту проблему. Именно в таких разговорах понимаешь, как далеко технология ушла от научного разума, основанного на доказательности и фальсифицируемости, став в итоге просто верой со своими кредо, ритуалами и заклинаниями.

Сопротивляться таким приступам надежды трудно, особенно если они случаются с людьми, к которым я в интеллектуальном плане близок. Мне было трудно защищать свое луддитство. Однако уважение, которое можно испытывать к достижениям информатики, заставляет продумать их пределы, допуская законность внешней по отношению к самой технологии точки зрения, в частности философской. Я никоим образом не против ИИ, но должен констатировать, что его индустриальные приложения, разрабатываемые сегодня, создают опасность для индивидуальной способности выбора: опираясь на утилитаристское основание, они умножают техники nudge. Либералы всегда были правы, когда расхваливали прогресс, обходя тысячи хитростей консерватизма. Но сегодня им нужно задать себе очень серьезный вопрос: не подрывает ли принцип инновации, за который они так много боролись, само основание их системы?

Сжечь человека