Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Марко подтверждает мне то, что рынками ворочает преимущественно машина. В нормальной ситуации, когда параметры инвестиций стабильны, а биржи спокойны, размещение капитала в мире в значительной степени автоматизировано, и еще больше оно автоматизируется завтра. Это ни в коем случае не является проблемой: повышая скорость и эффективность трейдинга на основе открытой информации, алгоритмы улучшают функционирование рынка. Траектории курсов будут меньше зависеть от личных предпочтений игроков и смогут точнее отражать эффективность предприятий. В спокойные времена ИИ мог бы сглаживать сильные колебания капитала, снижая волатильность. Он мог бы корректировать «иррациональное ликование рынков», на которое Ален Гринспен жаловался еще в конце 1990‐х годов.

Ситуация радикально меняется, когда происходит неожиданное событие, кризис, инновация (tail event) или когда в игру вступают долгосрочные соображения. В управление в таком случае должен вмешаться человек, чтобы применить собственную интерпретацию мира, поскольку данные остаются фрагментарными или неточными. Когда Дональд Трамп публикует твит, как ИИ может догадаться, всерьез он пишет или валяет дурака? Для подобного заключения требуется интерсубъективное суждение, основанное на анализе его личности, тем более что в случае Трампа прецедентов практически нет. Ложь, лицемерие, блеф — все это машине недоступно. Вот почему коллеги Марко продолжают встречаться с министрами, руководителями центробанков и главами предприятий — не для того чтобы вытянуть из них информацию, а чтобы лучше понять их образ жизни. Ценность финансовых аналитиков заключается не столько в их математических талантах, сколько в тонкой интуиции. «В конечном счете финансы — это игра между людьми, основанная на определенных правилах», — говорит Марко. Чтобы полностью автоматизировать рынки, сначала пришлось бы… автоматизировать людей.

Марко полагает, что в отсутствие сверхинтеллекта значительное замещение людей машинами невозможно. Так же считают и в компании Bloomberg: IT-директор читает мне весьма взвешенную лекцию о способностях разрабатываемых им алгоритмов, которые в основном используются для извлечения информации из документов, произведенных людьми. Компьютеры могут гарантировать проведение финансовых трансакций, но ни в коем случае не могут создать стратегию инвестирования. Ни один алгоритм не может придумать глобальную интерпретацию мира и людей, его населяющих, — и это опять же вопрос здравого смысла.

Разрушение остается созидательным, кроме того, оно останавливается у границ здравого смысла. ИИ приведет к исчезновению лишь тех профессий, практика которых не требует ни оценки контекста, ни взаимодействия с окружающей средой, ни инициативы, основанной на знании о другом. Иначе говоря, автоматизированы будут только те задачи, которые не смыкаются с другими, замкнуты на себя, почти изолированы. Хорошо бы создать «индикатор здравого смысла», позволяющий эффективнее, чем критерий «повторяемости», оценивать вероятность автоматизации…

В этом отношении «бредовые работы», описанные антропологом Дэвидом Грэбером, кажутся мне наиболее устойчивыми к массовой технологической замене, хотя и неясно, хорошо это или плохо. Грэбер анализирует современную экономическую систему, признавая ее рентовым капитализмом, производящим примерно треть бесполезных функций, предназначенных для того, чтобы увековечить бюрократические механизмы, сохранить иллюзию бурной деятельности или же просто потешить чье-то самолюбие. Волшебники PowerPoint, эксперты по стратегиям и профессиональные консультанты легко узнают себя в этой картине. Однако сама абсурдность их ремесла защищает от ИИ. Чтобы согласиться на выполнение задачи, лишенной как всякого экономического, так и интеллектуального смысла, нужно обладать очень неоднозначным представлением о мире и здравым смыслом, готовым выдержать любое испытание. Только растущей сложностью социальных механизмов, давлением руководящих структур и жаждой власти можно объяснить бурное развитие «бредовых работ». Машина не может валять дурака. Какой алгоритм смог бы производить бесполезные доклады? МВФ регулярно, но безуспешно пытается добиться этого в своих докладах об экономике отдельных стран. Чтобы придать видимость смысла документу, у которого по самой природе его нет, требуется человеческий разум во всей его изобретательности…