Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Я посмотрел на Кэти: она просто умирала со смеху…

4Разные следствия

Почему все меняется

На что будет похоже общество без свободы воли? Я попытался осмыслить его зачатки, встречаясь не только с техническими специалистами по ИИ, но и с учеными, активистами и простыми «цифровыми» гражданами, столкнувшимися с первыми существенными переменами. Моя задача не в том, чтобы предсказать будущее, а в том, чтобы довести до предела саму алгоритмическую логику.

В этом я попытался сохранить верность методу Токвиля. В своей работе «Демократия в Америке» он выделяет структурирующий принцип демократической трансформации — равенство, — а потом занимается описанием его «разных следствий», которые в XIX веке уже были заметны в США. Философский метод, литературный стиль, архитектура, спиритуализм, профессиональная жизнь, заработки, отношения между мужчиной и женщиной, представления о семье, о чести, воинский дух… ничто не может избежать требования равенства. Точно так же в случае ИИ исчезновение свободы воли определяет ряд трансформаций. Мы рассмотрим различные их формы примерно в том же порядке, который был предложен Токвилем: искусство, науки, право, экономика, нравы, политика и философия.

«Именно потому, что я не был врагом демократии, я хотел быть искренним по отношению к ней», — уточняет Токвиль в предисловии к своей книге. Мне бы хотелось сказать то же по поводу ИИ.

Искусство без художников

Чтобы понять, что будет представлять собой искусство XXI века, надо отправиться в Санта-Крус, очаровательное местечко с испанским колоритом на берегу залива Монтерей, где находится Калифорнийский университет. Я потерялся в пригороде, состоящем из коттеджей, но потом наконец нашел нужную дверь — дверь композитора Дэвида Коупа, который уже несколько десятилетий создает музыку на основе кода. Особенно он известен тем, что придумал алгоритм, который может генерировать музыкальные произведения в стиле Баха: уху непосвященного (например, моему) отличить копию от оригинала совершенно невозможно[102]. Ту же технику Дэвид Коуп применил к Вивальди, Моцарту и даже Шопену, но с разным успехом (его «Ноктюрн в стиле Шопена» кажется мне слишком механическим). Главное же, что при помощи компьютерных программ он создал ряд оригинальных произведений; одно из самых известных называется «Эмили Хауэлл».

В своей наивности я связывал ИИ с молодыми разработчиками-аспирантами и предпринимателями в футболках. Но история ИИ сегодня охватывает уже несколько поколений. Человеку, который открыл мне дверь, больше 75 лет. Его сухое и серьезное лицо, потерявшееся за седой бородой, вполне подошло бы бюсту античного философа. Он ведет меня на второй этаж, в свою мастерскую. Там легко представить, как Антуан, композитор из фильма «Дядюшки-гангстеры», блуждает по лесу звуков спустя пятьдесят лет: к потолку подвешены сотни труб, бубенцов, колоколов, треугольников и стекляшек, так что малейшее движение в комнате запускает симфонию, повинующуюся случаю. На полу — завалы книг по математике, стопки бумаг и старые компьютеры, а потому двигаться тут небезопасно. Дэвид прокладывает путь, включает экран, загружает свою программу EMI, и через несколько кликов в мастерской звучит неизвестное произведение Баха. Я первый и последний человек, который его услышал: компьютер постоянно производит все новые и новые аранжировки. Разве не должен был я прийти в трепет от одной мысли о том, что могу таким образом пообщаться с духом Баха? Нет. Скорее наоборот: мы только что истребили Баха как человека, индивида, который существовал и принадлежал к определенной истории, чтобы превратить его в метод производства звуков. И. С. Бах стал названием конкретного алгоритма. А поскольку алгоритмы при должной тренировке всегда могут совершенствоваться, вполне логичным будет предположить, что виртуальный Бах в конце концов превзойдет своего праотца из плоти и крови.

ИИ подрывает отношение к творчеству. Композитор-демиург заменяется простыми музыкальными потоками, которые возникают сами собой из первичной сложности. Программы Дэвида основаны на внедрении нелинейного хаоса, по образцу его собственной мастерской. Важно одно — вывести в форме звуков глубинную фрагментацию универсума, вмешиваясь в нее как можно меньше.

Я спрашиваю у Дэвида, что он думает о свободе воли. Он поднимает глаза к небу: разумеется, мы — машины. И должны принять себя такими, какие мы есть, считая психологию наукой о мозге и радуясь скорой аугментации его способностей электродами, которые будут встроены в наш череп. Дэвида нельзя упрекнуть в том, что он не живет по своим принципам: когда его недавно оперировали, он попросил, чтобы операцию проводил робот, а не человеческие руки, всегда остающиеся неточными.