Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Это привело к перевороту в публичной политике. С точки зрения гипотезы рационального агента, которую можно назвать фридмановской, считалось недопустимым защищать индивида от него самого, поскольку каждый принимает результаты собственного выбора, сделанного с полным знанием дела. И наоборот, человека, склонного к иллюзиям и поспешным суждениям, можно и должно подталкивать к решениям, которые внешний наблюдатель, в данном случае регулятор, сочтет лучшими. Именно это Тайлер и назвал «либертарианским патернализмом»: индивиду надо предоставить весь набор возможных вариантов, но «подталкивая его локтем» (по-английски nudge[79]) к тому варианту, который представляется наиболее желательным. Например, если мы замечаем, что студенты в столовой обычно берут первое блюдо, которое стоит на раздаче прямо перед ними, можно устроить так, чтобы это был салат, а не гамбургер, но не запрещать им целенаправленно выбирать менее здоровую еду. Таким образом, можно использовать те самые механизмы, которые ведут к ошибке, чтобы защититься от наших негативных инстинктов. Эта политика подталкивания стала чрезвычайно популярной среди политиков в начале 2010‐х годов: британский премьер-министр создал в своем правительстве специальный Nudge Policy Unit. Даже Google использует внутри компании такие «подталкивания», чтобы снизить потребление мяса среди сотрудников или повысить производительность за счет системы персональных извещений. В Кремниевой долине даже стали нанимать «специалистов по подталкиванию», nudge scientists…

Но какое отношение все это имеет к ИИ? Канеман сам указывает на это отношение, комментируя опыты Пола Мила. Этот психолог в 1950‐х годах решил доказать превосходство «статистического предсказания» над «клиническим предсказанием». Мил изучил, как профессиональные работники образования предсказывают будущие оценки студентов первого года, основываясь на сданных экзаменах, на тестах способностей, а также на личной беседе. Затем он сравнил эти прогнозы с результатом строгой математической формулы, основанной на некоторых простейших данных. Выяснилось, что формула регулярно давала лучший результат, чем человеческое суждение. Это, по мнению Мила, доказывало, что эксперт всегда находится под влиянием слишком большого числа неточных критериев и субъективных мнений, будь они сознательными или нет. И наоборот, простые правила и анкеты, не зависящие от «системы 1», обладают доказанными преимуществами, которые хорошо известны летчикам и альпинистам: в случае паники лучше полагаться на учебник, чем на интуицию. Отсюда важность приобретения определенных «автоматизмов», которые превращают нас, по сути, в автоматы. Канеман полностью разделяет эти выводы: «Эксперты уступают алгоритмам». Из этого он выводит определенные следствия, имеющие значение для мира ИИ, в котором алгоритмы производят все больше и больше статистических вычислений: надо преодолеть наше естественное предпочтение человеческого суждения (например, врача или адвоката) и научиться доверять машине, чистой «системе 2», свободной от любых предубеждений. «К счастью, — заключает Канеман, — враждебное отношение к алгоритмам, вероятно, будет ослабевать по мере возрастания их роли в повседневной жизни».

Теперь мы лучше понимаем, почему Канеман важен для столь многих поборников ИИ. Иррациональность наших повседневных суждений оправдывает помощь машины, способной определить наши личные потребности и при этом избежать наших когнитивных иллюзий. Поскольку мы сами не смогли бы обрабатывать постоянно поставляемую машиной информацию, почему бы не попросить ее упростить и сам процесс принятия решения, ненавязчиво руководя нами и нашим поведением? А поскольку наша «система 2» дает нам лишь весьма несовершенное представление о самих себе, не могли бы мы возложить на ИИ также и задачу определения наших истинных желаний, чтобы машина помогала в совершенствовании не только эффективности наших решений, но и самой их природы? Таким образом, ИИ мог бы действовать в качестве своего рода универсального nudge, заранее выполняя за нас работу по выбору и надолго помещая нас в общество турникетов[80].