Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Однако Дэниел Канеман – кто угодно, но только не мыслитель технологии. Этот ученый-психолог посвятил свою карьеру экспериментальному доказательству того, что человеческие решения подвержены многочисленным предубеждениям и «когнитивным иллюзиям». Наши повседневные суждения могут быть какими угодно, но только не рациональными. Эффект гало, эвристика аффекта, впечатления причинности, предубеждение подтверждения, иллюзия обоснованности, ассоциативное мышление, софизм планирования, неприятие потери, регрессия к среднему, эффект заякоривания – все это рефлексы, вписанные в наши нейронные контуры, ментальные оптические иллюзии, которые приводят нас к ложным заключениям. Вот почему мы чувствительны к таким ценам, как «99,99 евро», и не любим отказываться от уже начатых проектов. Наша «система 1», как ее холодно называет Канеман, то есть система быстрого мышления, постоянно порождает ложные вероятности и обрывочные умозаключения, пытаясь свести окружающий нас мир к внешне логичной схеме. Чтобы исправить ее, «системе 2», которая должна применять нашу рациональность и критическое чувство в более спокойном режиме, как правило, просто не хватает времени: она может сосредоточиться лишь на небольшом числе решений и чаще всего лениво соглашается с предложениями «системы 1». Таким образом, наши явные предпочтения оказываются не чем иным, как «безнадежным миражом».

Я приведу лишь один пример из сотен, чтобы дать общее представление о Канемане[78]. Это история Линды, которую я позволю себе адаптировать к реалиям современной Франции. Линда – студентка социологического факультета, активистка, которая борется с несправедливостью и ущемлением прав других видов. Она участвовала в оккупации кампуса Жюсье во время забастовок весны 2018 года. Кем она с бо́льшей вероятностью станет спустя десять лет:

1. воспитательницей в детском саду;

2. преподавателем йоги;

3. банковским работником;

4. социальным работником;

5. банковским работником, борющимся за права животных?

Большинство опрошенных учитывают предположительные личные качества Линды и полагают, что она, скорее всего, станет «банковским работником, борющимся за права животных». Но, если задуматься и провести очень простое логическое рассуждение, становится ясно, что это не так, поскольку вариант 5 является лишь подчиненной категорией варианта 3: вероятность того, что Линда станет «банковским работником, борющимся за права животных», не может быть больше вероятности того, что она станет просто банковским работником. Эта распространенная ошибка иллюстрирует предубеждение «репрезентативности», в силу которого вкус к стереотипу берет верх над элементарным статистическим рассуждением.

Эти психологические открытия, которые кажутся довольно тривиальными читателю, хорошо знакомому с максимами классических моралистов, оказали огромное влияние на экономическую науку, которая до 1970‐х годов опиралась на постулат рационального индивида, то есть Homo economicus, способного оптимизировать собственную полезность. Работы Канемана тесно связаны с возникновением поведенческой экономики, которая рассматривает человека вместе со всеми его изъянами. Так, Ричард Талер, соратник Канемана и ведущая фигура поведенческой экономики, проводит в нашем поведении различие между тем, что относится к «экону» (равноценному «системе 2»), и тем, что относится к «человеку» («система 1»). Эти исследования здравого смысла изменят весь подход к рынку, который отныне должен будет учитывать менее обдуманные решения. Задача не в том, чтобы сделать человека совершенно рациональным (что, к счастью, невозможно), а в том, чтобы минимизировать негативные экстерналии, вызванные предвзятыми решениями. Сегодня эти тезисы в академическом мире считаются вполне подтвержденными: в 2002 году Канеман получил Нобелевскую премию по экономике, а в 2017 году ее вручили и Талеру.