Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Однажды вы, вероятно, приняли решение, каким маршрутом добираться на работу; мало-помалу он вошел в привычку, позволив вам по дороге обдумывать выбор других вещей. Это первоначальное решение не обязательно было лучшим: забастовки в лондонском метро показали, что многие пассажиры, когда им пришлось заново задуматься о своем маршруте, нашли варианты удобнее[187]. Но это был ваш маршрут. Сегодня он владеет вами так же, как вы им. Повторение одних и тех же улиц, перекрестков и вывесок соответствует определенному моменту вашей жизни, и вполне разумно продолжать придерживаться этого маршрута, даже если вы теряете на нем несколько минут. Если вернуться к терминологии Канемана, можно выдвинуть гипотезу, что «система 2» – это не рациональная сущность, отличная от «системы 1» и ее когнитивных алгоритмов, полных предубеждений. Именно «система 2» подпитывает «систему 1», производя целый ряд решений в глубине наших привычек, тогда как «система 1» временами дает о себе знать «системе 2», требуя от нее все новых размышлений. На самом деле нет двух систем, а есть бесконечное число цепочек принятия решений, производящих когнитивный шум разной степени интенсивности. На что-то в конце концов решаясь, я привношу в это решение весь груз моей истории. Если свобода воли – это фантазия о свободном действии, нарушающем естественный ход вещей в природе и обществе, то свободный волитель, напротив, обладает способностью давать обещание и сдерживать его, задействуя всю свою личность. Как объясняет нейробиолог Джона Лерер, «нас определяют наши решения»[188], будь то бессознательные или нет. Именно эта «фабрика идентичности» позволяет вменять человеку ответственность, невзирая на биохимический детерминизм.

Свобода воли не дается нам от рождения: нет никакой феи, которая склонилась бы над колыбелью человечества. Вопреки неудачной формулировке нашей «Декларации о правах человека», мы не «рождаемся свободными». Зато мы можем взращивать и поддерживать в себе свободного волителя. Это ключ к нашей ответственности, он не дан нам (биологически), не предполагается (интеллектуально), а медленно вырабатывается. Чем сложнее траектории принятия нами решения, тем сильнее мобилизуется способность к рефлексии, тем больше наше действие, даже самое незначительное, отражает то, кем мы являемся. Но чем менее осознанно мы принимаем решения, тем хуже себя контролируем. Деннет справедливо говорит о «моральном образовании», которое помогло бы нам выбирать соображения, участвующие в наших процессах принятия решения. Оно вполне органично вписывается в гуманистическую традицию. Подобно тому как Эразм Роттердамский возражал против «рабства воли» Лютера, сегодняшние гуманисты могут апеллировать к нейронаукам, чтобы доказать возможность личного суждения. Только так мы сможем в итоге разглядеть человека, погребенного под массивами данных, заставив ИИ служить нам.

Такая концепция имеет свои политические последствия. Роль хорошего управления будет заключаться в том, чтобы способствовать этому моральному образованию, развивающему автономию при принятии решения. Именно это особым образом отражается на других теориях политического действия, используемых в этих дебатах. Режим свободы воли предполагает, что мы взрослые и ответственные люди: это свободный рынок, как он понимается Чикагской школой. В теории nudge мы мечемся туда-сюда под воздействием когнитивных предубеждений: это либертарианский патернализм поведенческой экономики. Но в моей гипотезе свободного волителя мы можем постепенно накапливать средства для освобождения, независимо от биохимического детерминизма и даже благодаря ему. Вспомним Лейбница: «Связь причин со следствиями, не будучи причиной суровой необходимости, скорее доставляет средство к ее уничтожению». Именно за счет того, что я пропускаю часть моих предварительных решений через бессознательное нейронных путей, создавая тем самым, если так можно выразиться, собственные когнитивные предубеждения, я могу укрепить свою способность суждения. Можно вообразить целый ряд инструментов публичной политики, которые способствовали бы человеку в его размышлении при принятии решения, не оказывая при этом влияния на его результат и не давая ему оценки[189].