Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Словно для того, чтобы рассеять мои сомнения, через несколько недель после нашей встречи Адриен отправил мне фото с Burning Man. Вот он в пустыне – веселится среди друзей в смешных костюмах (а некоторые из них и вовсе без костюмов). На заднем плане над толпой навис огромный металлический дракон. Песок грубый, покрытый сетью трещин; синее небо без облаков: лунный пейзаж для новой, радостной и пестрой расы. Но откуда же взялось само это название – «Горящий человек»? Все дело в том, что по завершении празднества там сжигают огромную фигуру человека. Видеозаписи этого действа впечатляют. Ночью кукла в несколько десятков метров высотой, с руками, поднятыми так, словно бы она прославляет какую-то последнюю победу, воспламеняется в грохоте электронной музыки и фейерверков. Толпа, собравшаяся огромным кругом, кричит от радости, видя, как этот человек постепенно разваливается. Части его тела отваливаются друг от друга, он сгибается, становится на колени и обрушивается, поверженный собственной гордыней. Ecce homo: горстка пепла, вокруг которого танцуют полуголые программисты, специалисты по компьютерным наукам, веб-дизайнеры, предприниматели и просто digital natives, охваченные единым порывом этого первобытного умерщвления. «Горящий человек» – это отцеубийство, или скорее «видоубийство», в котором Homo connecticus приносит на заклание прежнего господина – Homo sapiens.

Сложно не увидеть в этом тот большой философский разрыв, о котором предупреждал Фуко в последних строках «Слов и вещей». «Если эти диспозиции [знания] исчезнут так же, как они некогда появились, если какое-нибудь событие, возможность которого мы можем лишь предчувствовать, не зная пока ни его облика, ни того, что оно в себе таит, разрушит их, как разрушена была на исходе XVIII века почва классического мышления, тогда – можно поручиться – человек исчезнет, как исчезает лицо, начертанное на прибрежном песке», – писал Фуко в конце 1960‐х годов[101]. Это событие очень похоже на ИИ и его современные изводы, которые постепенно лишают человека того, чем наделяла его мысль модерна, а именно уникальности, автономии и ответственности. Несмотря на свой показной нарциссизм, Кремниевая долина никоим образом не может считаться индивидуалистичной. Homo connecticus любит наслаждаться собой, о чем недвусмысленно свидетельствуют другие фотографии, отправленные мне Адриеном, на которых демонстрируется чувственность «сжигателей», подчеркиваемая наготой и песчаными бурями. Однако в то же время Homo connecticus не любит быть собой. Он предпочитает теряться в хитросплетениях сетевого сообщества.

Вопрос, поставленный Фуко, – это вопрос просвещения как такового. Мыслители и реформаторы хотели освободить человека от внешних опекунов, которые могли быть политическими, экономическими или интеллектуальными. И они настолько преуспели в этом, что технологии, рожденные свободным обществом, сегодня заняты созданием худшего вида опекунства – опекунства внутреннего, управляющего самыми что ни на есть сокровенными решениями, которые принимаются от имени индивидуального и коллективного благополучия. Именно в этом смысле человек может быть стерт, как лицо, нарисованное на прибрежном песке, – так же, как растворяется в песке лицо «Горящего человека».

Этот вопрос просвещения стал для меня очевидным только тогда, когда я встретился с Лаурой Тэйлор-Кейл, дипломатом и исследователем из Центра международных отношений, которая сегодня занимается в Стэнфорде темой адаптации организаций к технологиям.

Я прихожу на встречу первым и устраиваюсь за столиком на террасе. Когда Лаура садится напротив меня, я не могу скрыть мимолетного удивления. Она оказалась первой и последней чернокожей женщиной из всех, кого я встретил в своих странствиях. Я не особенно озабочен борьбой с дискриминацией, которая, по-моему, в американских дебатах давно вышла за пределы разумного. Но все-таки нужно признать, что одна чернокожая женщина на 125 встреч – это уже говорит о том очевидном отсутствии разнообразия в технологической среде, которое также выражается в предвзятости алгоритмов в моделях ИИ, разрабатываемых молодыми белыми мужчинами. Именно из-за этого алгоритмы распознавания лиц иногда безнадежно путали чернокожих людей с обезьянами, поскольку не обучались на достаточно репрезентативной выборке. Подробнее мы поговорим об этом в следующей главе.