Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Когда глубокой ночью мы наконец расстались, Рамсей подарил мне на прощание DVD-диск с «THX 1138», первым фильмом Джорджа Лукаса. Это антиутопия в стиле Хаксли, в которой изображены люди, живущие под постоянным контролем в странном подземном универсуме, снятом в тысяче оттенков белого. Каждый трудится над коллективным счастьем, высшей целью этого зомбированного общества. Чтобы контролировать и подавлять эмоции граждан, правительство выдает им наркотики в виде маленьких белых и красных таблеток. История начинается с того, что два соседа – LUH и THX – перестают принимать эти лекарства, и между ними возникает любовь, которая преследуется властями. За этим следуют то ли фантастические, то ли сновидческие приключения, предвосхищающие более зрелый стиль Лукаса как режиссера. Мысль Рамсея вполне понятна: предлагая нам счастье и накачивая нас постоянными «подталкиваниями», как наркотиками, ИИ способен создать такую форму массового контроля, которая окажется еще более неумолимой именно потому, что будет приватизирована. В ней не будет даже «центра управления», чтобы можно было с ним бороться, как делает THX 1138. Мы попадемся в сети, которые сами же и соткали, создавая одно приложение за другим.

Мы всегда считаем, что люди с зависимостью – это другие. Возвращаясь в гостиницу, я говорил себе: все это не про меня… Уж я-то, с моей волей к жизни, не проглочу эту таблетку. Я, со своим желанием противоречить, не буду подчиняться сладкоречивым сообщениям, придуманным Boundless AI. Я, со своим критическим духом, не поведусь на грубые эмотиконы. Я автономен.

Но потом у меня тоже случилось откровение. Все началось с чтения последней книги Джарона Ланье, купленной по случаю в одном книжном магазине Сан-Франциско[87]. Ланье, гик-либертарианец с легендарными дредами, – мой ориентир по любым вопросам, связанным с технологией. Настоящая икона контркультуры и в то же время исследователь в Microsoft, он имеет все основания изнутри критиковать развитие цифрового мира, в создании которого сам участвовал. В своей предыдущей работе он уже убедил меня в том, что вознаграждение, получаемое за предоставление личных данных, – моральная и экономическая необходимость, без которой нельзя избежать господства больших платформ[88]. Его краткий и сильный памфлет «Десять аргументов за то, чтобы немедленно выйти из социальных сетей» стал похожим откровением[89]. Ланье разоблачает логику «ангажирования», вписанную в алгоритмы социальных сетей. Их бизнес-модель опирается на накопление данных. Чтобы извлекать данные, надо порождать деятельность. Для этого требуется создавать зависимость. А для создания зависимости необходимо играть на наших основных инстинктах: вознаграждение (лайки), конфликт (война твитов), конкуренция (число фолловеров). Оглупление публичных дискуссий, партийная истерика, диктатура эмоций, возвращение практик публичного порицания и массовая дезинформация – все это прямые следствия того постоянного щекотания наших нейронных цепей, которое выполняют социальные сети[90]. Трамп – это не президент, строчащий твиты, а твит, который был избран президентом самой логикой ретвита. Самые изощренные умы бьются над тем, чтобы выразить окончательные суждения, уместив их в 280 знаков. Палитра человеческих чувств сводится к двум реакциям: «нравится» – «не нравится», двум сторонам одной и той же инфантильной регрессии. Социальные сети, как они понимаются сегодня, подрывают наши демократии. Как говорит Ланье, мы все становимся зомби. Решение простое: отключиться.

На теоретическом уровне меня это убедило. Но я все же не собирался бросать 20 тысяч своих фолловеров в твиттере, которых старательно собирал многие годы и с которыми ежедневно общался. Для меня это был настоящий рабочий инструмент, позволяющий мне распространять собственные идеи, делиться статьями, объявлять о публикациях. Как изменить общественное мнение, если не присутствовать там, где оно, собственно, формируется? Вот это я и объяснил Джарону за завтраком.

Слова не понадобились. Впиваясь зубами в свой четвертый бейгл, Джарон вежливо молчал. Сколько раз он слышал подобные объяснения? В конце концов, они есть у всех коллаборантов.