Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Во всех этих сценариях на самом ИИ лежит лишь незначительная ответственность. Паника, связанная с будущим труда, представляется мне в этом случае научно необоснованной, исторически уже отыгранной и сомнительной в моральном плане. Почему пророки автоматизации никогда не ставят под вопрос свою собственную деятельность? Самые известные кассандры, такие как Илон Маск, который регулярно заявляет о замещении и даже уничтожении человечества машинами, – сами настоящие трудоголики[73]. Роботы – это всегда для других, для тех, кто не является незаменимым. Страх автоматизации стал современной формой классового презрения.

Эта двойственность предстала передо мной со всей ясностью в дискуссии с Крейгом Хансоном, основателем инвестиционного фонда NextWorld Capital, во время нашей встречи в Сан-Франциско. Как указывает само название фонда, NextWorld вкладывается в стартапы, занимающиеся проектами на передовой цифровых инноваций. Крейг полагает, что ИИ перевернет все сферы экономики и радикально преобразует общество. Даже если не обращать внимания на громкие заголовки и моду, которые заставляют предпринимателей вставлять отсылки к ИИ в свои презентации, мы вступаем в долгую эпоху «скучного ИИ», когда машинное обучение постепенно захватит все отрасли. Крейг убежден, что такой ИИ сведет роль человека к функции начальника станции, который время от времени дает зеленый свет, а потом и полностью его заменит. По мере того как ИИ будет обучаться принимать все более стратегические решения, наша способность к суждению начнет устаревать.

– Но как обстоит дело с инвестициями? – задал я ему невинный вопрос. – Вас тоже заменит ИИ, способный анализировать бизнес-модели и предсказывать рыночные возможности?

– Нет, ни в коем случае, – тут же вскричал обиженный Крейг. – Инвестиции – это слишком сложно. Этот сектор подвергнется автоматизации последним.

Я предлагаю называть эту реакцию «парадоксом Крейга». Каждый в своей сфере деятельности спонтанно понимает все тонкости своих ежедневных задач, постоянную потребность в суждении, которое не сможет заменить никакой ИИ. Тогда как у других ту же потребность легко игнорировать. Рентгенолог пожелает, чтобы ИИ ради бо́льшей безопасности руководил дорожным транспортом, тогда как дальнобойщик захочет автоматизировать журналистику, которая тем самым станет более объективной, журналист откажется понимать, что такого сложного в инвестициях, а инвестор предпочтет, чтобы машина анализировала его медицинские анализы.

Но я предлагаю каждому опробовать на практике профессию другого, чтобы лучше осознать всю ее сложность. Мы требуем роботизации, поскольку принимаем другого за робота. Немного эмпатии – и эта иллюзия исчезнет. Лучший аргумент против «конца труда» высказал, таким образом, Декарт: здравый смысл – это самая распространенная вещь на свете… однако ее ничем нельзя заменить.

3Принцип турникета

Почему вам больше не придется делать выбор

В Шанхае шел дождь. Не мелкий дождик Нанта, так вдохновлявший Барбару[74], а муссонный ливень, который стекал с небоскребов и затапливал тротуары, делая любое передвижение невозможным. Я нашел убежище в музее Юз, где проходила коллективная выставка «Random International», поставившая целью исследовать место человечества в технологическом универсуме. Программа обещала «Все или ничего». Я сделал ставку на «ничего» и толкнул дверь, чтобы поскорее попасть внутрь.

Контраст с музеем Янга в Сан-Франциско оказался разительным. Выставка в Шанхае должна была представить машину в гораздо более критическом свете, погрузив посетителя в неприятный опыт разного толка: вот бульдозер, который размалывает человека; вот другой человек отражается на экране в виде облака светящихся точек. От природы посетитель изолируется в Rain Room, где дождь останавливается, когда он входит. Возможно, это было случайно, но мой визит в Китай начался с пугающих предостережений. Посреди главного зала была выставлена вроде бы совершенно невинная инсталляция: несколько десятков горизонтальных турникетов, расположенных на равном расстоянии друг от друга. Посетители рассеянно проходили сквозь них, прокладывая себе путь от одного к другому по мере движения по помещению. Через какое-то время я заметил, что их траектория под действием турникетов слегка меняется. Не осознавая этого, они отклонялись от прямой линии, что изменяло их маршрут по выставке. Я сам попробовал пройти: механически толкая металлические рычаги турникетов, я почувствовал неодолимое влечение перейти от одного к другому, следуя своего рода плану, смысл которого от меня ускользал. Однако в любой момент я мог изменить направление движения или вернуться назад. Никакое физическое препятствие мне не мешало. Но легче было отдаться плавному движению, не встречая никакого сопротивления. Возможно, первоначальный выбор я сделал в тот момент, когда вообще решил пройти через турникеты, хотя легко мог бы их обойти?