Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Канеман не отрицает существования свободы воли. Он довольствуется тем, что связывает ее с «системой 2», которая относительно слаба, поскольку не имеет возможности справляться с постоянным потоком информации и может мобилизоваться только в исключительных обстоятельствах и ценой заметных усилий. Будучи психологом, Канеман сосредотачивает свои исследования на ошибках «системы 1», оставляя другим вопросы сознания и свободного выбора, помещенные в черный ящик «системы 2». Множество современных ученых, занимающихся нейронауками, ответили на этот вызов, постаравшись доказать, что само понятие свободы воли является наследием средневековой метафизики. По мере расшифровки работы мозга мы сможем свести способность принимать решения к химическим процессам, которые могут быть раскодированы и подсчитаны. Станислас Деан, один из ведущих ученых в этой области, решил реабилитировать картезианское представление о чисто механическом устройстве мозга[81]. Он хочет раз и навсегда покончить с идеей души, духа или сознания, которое якобы способно абстрагироваться от законов молекулярной биологии и делать «свободный» выбор (то есть выбор в определенном смысле случайный и даже произвольный). То, что философ Дэвид Чалмерс назвал «сложной проблемой» сознания, для Деана сложным не является. Шестьдесят миллиардов нейронов нашего мозга обрабатывают полученную информацию в зависимости от генетической предрасположенности и нашего прошлого опыта. В тот день, когда нейроны будут полностью картографированы, мы сможем предсказывать наши психические процессы с той же точностью, что и рикошет бильярдных шаров. Деан не отвергает, однако, «автономной способности к решению», он только проводит четкое различие между нею и темной непредсказуемостью «свободы воли». «Система 2» может, конечно, принимать сложные решения, разумно взвешивая все «за» и «против», однако в конечном счете эти решения определяются нашей биологической конституцией. Тот факт, что наши действия являются результатом исключительно сцепления причин и следствий, не означает их иррациональности, скорее наоборот. Вполне логично, что Деан не видит никакой причины, по которой ИИ не мог бы обладать такой же «автономной способностью к решению», искусственно воспроизводя нашу способность к внутреннему рассуждению. У машины свободы воли не больше и не меньше, чем у нас, людей. То есть она могла бы с полным основанием поддержать нас в применении нашей собственной рациональности.

Итак, мы видим несколько обескураживающее слияние психологии, поведенческой экономики и нейронаук, которые все в равной мере отвергают свободу воли. Это представление популяризируется такими эссеистами, как Сэм Харрис, который крайне упрощает детерминистское рассуждение, полагая, что наши мысли — плод одних лишь физических законов и что, следовательно, «моя психическая жизнь дана мне в силу специфического устройства космоса»[82]. Столь радикальный тезис влечет весьма значимые следствия для нашего представления о праве, экономике или любви. Если действия людей детерминированы, значит, к ним в целом не применима никакая моральная ответственность. А как же тогда наказывать преступников, вознаграждать достижения или требовать верности? И наоборот, не становится ли каждый ответственным за общее благо, если всякое действие может изменить поведение другого? Сэм Харрис охотно признаёт, что наши общества по-прежнему основаны на постулате автономного индивида, и боится «культурной войны», разворачивающейся вокруг свободы воли. Споры на эту тему наверняка выйдут за пределы здравомыслящих кругов научного сообщества, что приведет к расшатыванию всех наших институтов. Разве уже сегодня мы не требуем от социальных сетей следить за пагубным влиянием, которое способен оказывать на их пользователей определенный контент, и не признаём ли тем самым, что сами пользователи не располагают никакой свободой психического маневра, позволившей бы им избежать своей цифровой судьбы? Ян Лекун подтвердил мне высокую прогнозируемость поведения пользователей Facebook, которые едва ли не систематически поступают в соответствии с предсказаниями данных. В детерминистском мире нужно контролировать поведение гражданина на первых этапах, а не наказывать его за результаты.