Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Было бы соблазнительно сравнить интеллектуальную иллюзию, разоблаченную Берком, с механизмами ИИ. Французские революционеры представляли людей разумными существами, способными договариваться друг с другом, ИИ же констатирует их экстравагантность, но ставит себе задачу их исправить. Требование рациональности было попросту перенесено с индивидуального решения на машину, а принцип полезности заменил собой принцип общей воли к организации социального поля. И наоборот: нельзя ли найти в предубеждениях ряд достоинств, которые Берк за ними признавал? Предубеждения, пусть они и несправедливы по отношению к индивидам, скрывают определенное обещание преемственности. Старый предрассудок гласит: подобное притягивается подобным. «Культурное соответствие», которого так боится Румман, позволяет нам продолжать общую историю.

ИИ играет главную роль в формировании общества без предубеждений. Но будет ли это именно общество, а не просто конгломерат индивидов, страшащихся любого добровольного взаимодействия и движимых волей алгоритма? Останется ли хотя бы малейшее affectio societatis, учитывая, что за каждым аффектом скрывается предубеждение?

Права без демократии

ИИ во многом подрывает традиционную демократическую структуру, где правительство, призванное служить общему благу, применяет законы, проистекающие, как считается, из общей воли. Общественный договор, разработанный просвещением, сегодня под вопросом. Это во многом объясняет политическую ажитацию, наблюдаемую в большинстве западных демократических государств. На наших глазах разваливается целая институциональная модель, но ничего другого на ее месте пока не возникло.

Первая составляющая кризиса является технической: руководители просто не поспевают за стремительным развитием ИИ, они не способны понять текущие изменения. Когда французский премьер-министр заговорил об ИИ в своей общей политической речи в июле 2017 года, комментаторы пришли в восторг от такой продвинутости, тогда как на самом деле эта тема была упомянута им лишь походя и вкратце. Сами его формулировки весьма показательны. «Революция искусственного интеллекта затронет всех во всех областях производства», — справедливо поясняет премьер-министр. Однако все эти области производства в остальной его речи рассматриваются как нельзя более традиционно, а сам ИИ связывается с будущей «национальной стратегией», словно бы речь идет о какой-то отдельной области, новом секторе. Правительство принимает решение составить доклад об ИИ, продолжая делать вид, что его сельскохозяйственные планы, промышленная стратегия или культурные расходы никак не изменятся. Но при этом достаточно пробежать глазами споры парламента времен Июльской монархии, чтобы заметить, насколько глубоко тогдашние ораторы, какую бы партию они ни представляли, понимали промышленную революцию, которая обсуждалась не только сама по себе, но и в связи со всеми прочими вопросами, начиная с детского труда и заканчивая таможенными пошлинами[130]. Вопрос становится по-настоящему важным, когда он перестает считаться чем-то обособленным. В частности, такое развитие можно было наблюдать в экологии. Что же касается ИИ, политика, похоже, безнадежно отстала от технологии.

Впрочем, Франции стыдиться нечего: США, родина ИИ, демонстрируют ту же беззаботность. После скандала с Cambridge Analytica слушания с участием Марка Цукерберга в американском Конгрессе ясно показали некомпетентность законодательной власти, которая была вынуждена задавать общие вопросы, тогда как молодой основатель Facebook смог легко ввести ее в заблуждение. Были предприняты некоторые попытки восполнить этот дефицит в публичной политике, но без особого успеха. В Вашингтоне я встретился с Кей Коидзуми, бывшим вторым сотрудником в Управлении научно-технической политики (OSTP), ведомстве, занимавшемся контролем техники и прямо связанном с Белым домом. Кей не похож на типичного высокопоставленного чиновника: в ухе у него серьга, он носит розовые часы и футболку с крокодилами. При президенте Обаме он руководил составлением трех важных докладов об ИИ, в которых рассматривались фундаментальные исследования, государственное регулирование и социальные последствия. Эти инициативы должны были привести к осознанию проблематики на самом высоком уровне. Президент лично занимался этим проектом, была мобилизована вся федеральная администрация. «Они начали понимать, — вздыхает Кей, — но это больше не повестка правительства». Избрание Дональда Трампа повлекло резкое торможение деятельности OSTP. За беззаботностью Кея заметно глубокое разочарование. Словно зажглась искорка, которая потом была потушена первым партийным дуновением. Теперь единственная надежда Кея, которую он лелеет в рамках престижной Американской ассоциации развития науки, состоит в том, что на смену правительству, не справившемуся со своей задачей, придет гражданское общество.