Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Допустим, что технически ИИ на самом деле способен исключить предубеждения, и экстраполируем этот механизм за пределы рынка труда. Представим, что в fooding— или dating-приложениях ИИ поощряет нас выходить за границы предубеждений, экспериментируя с блюдами разных стран или с партнерами разных полов. Речь, конечно, об ИИ, который будут корректировать его программисты: если машинное обучение предоставить самому себе, оно, скорее всего, будет воспроизводить схемы прошлого. Но важнее то, что подобная задача вписалась бы в определенную форму утилитаристского эгалитаризма, характерного для ИИ, поскольку каждый индивид определяется своей потенциальной полезностью, а не своим происхождением или средой. Несомненно, общество без предубеждений стало бы эффективнее, подвижнее, богаче. Но нужно все равно отдавать себе отчет в том, что понятие «предубеждение» не имеет пределов: вначале оно ограничивалось биологическими данными (гендером, цветом кожи), но потом распространилось на сексуальную ориентацию, уровень образования и социокультурную среду. Поэтому можно быть дискриминированным как по своим «естественным» качествам, так и по тому, что вы представляете собой в «культурном» отношении. Значит ли это, что предприятие откажется нанимать лучших, чтобы не дискриминировать тех, у кого ниже IQ или хуже образование? Заключим ли мы брак с тучным партнером, чтобы не поддаться фэтшеймингу? В современных американских компаниях сотрудники парализованы страхом высказать что-нибудь такое, что посчитают дискриминационным[127], или как-то «неправильно» себя проявить[128], поэтому любые искренние отношения между людьми становятся невозможными. Какие чувства и эмоции остаются дозволенными в обществе без предубеждений? Те, которые вам предложит хорошо натренированный ИИ. А где найти себе друзей, спросите у алгоритма…

Эта логика выдает двойной отказ от свободы воли. С одной стороны, предмет выбора считается «не отвечающим» за свои личные характеристики, будь они врожденными или приобретенными. С другой стороны, агент выбора делегирует свое решение машине, опасаясь, что сам он сознательно или бессознательно может уступить глубоко запрятанным в его душе предубеждениям. Какой критерий останется в таком случае у ИИ, раз индивид сводится к схеме самого себя, став простой абстракцией, состоящей из нулей и единиц? Взаимная полезность. Значит, не удовлетворяясь предвидением и раскрытием наших спонтанных предпочтений, ИИ должен дойти до их подавления ради справедливого и оптимального удовлетворения всей совокупности индивидов в целом[129]. С моей точки зрения, это просто две стадии утилитаризма: первая стремится достигать субъективной полезности (как она определяется, в том числе и бессознательно, индивидом), а вторая — полезности объективной (преодолевающей личные предпочтения ради групповой гармонии). Странная диалектика, в которой слуга наших желаний постепенно становится нашим господином.

На что будет похож мир без «культурного соответствия» и без дискриминации? Возможно, на идеал открытого общества. Но, возможно, и на кошмар лучшего из миров, лишенного истории и наследия. Ведь наши культурные связи образуют сегодня живую ткань общества, как бы мы ее ни оценивали. Признавая безусловную философскую ценность общества без предубеждений, я хотел более развернуто представить возражение, которое набросал в разговоре с Румман, и на какое-то время выступить адвокатом дьявола. Для этого я обращусь к Эдмунду Берку, в свое время считавшемуся прогрессистом. В знаменитом отрывке «Размышлений о Французской революции» (1790) Берк воздает редкую похвалу предрассудку (prejudice). Отказываясь верить чистому применению разума, он собирается осудить и стремление вернуться к tabula rasa, свойственное Революции, и скрывающийся за ней проект построения человеческих отношений в чисто логическом порядке. А предрассудок же, напротив, Берк считает неоценимым ориентиром для правильного поведения, берущим свой исток не в индивидуальном расчете, который всегда будет оставаться поверхностным, а в «капитале времени» — в накопленных знаниях и опыте, формирующих культуру. Предрассудок — это конденсат длительной коллективной истории, состоящей из проб, ошибок и поправок. Он передает нам в наследство очевидность, которая испытывалась веками, но теперь доступна непосредственно. Там, где рефлексия увязает в импровизированных рассуждениях, предрассудок дает нам уверенный и быстрый ответ, насыщенный эмоциями, а потому толкающий к действию. Именно поэтому «предрассудок делает из добродетели привычку, а не цепочку не связанных друг с другом поступков». Этот предрассудок в пользу предрассудка не мешает критическому анализу: по Берку, задача мыслителей — исследовать «скрытую мудрость» предрассудков и извлечь из них после краткого исследования, как советовал Декарт, «временную мораль», переданную нам предками.