Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Наиболее структурированная в этом смысле инициатива — «Партнерство ИИ», созданное и финансируемое расширенной группой GAFA: Amazon, Apple, DeepMind, Facebook, Google, IBM, Microsoft. Возможно, к ним присоединится их китайский аналог Baidu. Генерального директора «Партнерства» Теру Лайонс я встретил в большом лофте с кирпичными стенами прямо напротив штаб-квартиры компании LinkedIn в Сан-Франциско. Тера — приветливая, одетая по последней моде женщина, на руке — неброские умные часы. Не отклоняясь ни на секунду от своей профессиональной роли, она объяснила мне задачи «Партнерства»: обсуждать этические вопросы, разрабатывать качественные практики, а также технологические стандарты, определять будущие вопросы и т. д. Алгоритмическая справедливость, объяснимость решений, конкуренция, неприкосновенность частной жизни, анонимность, собственность на данные — в их повестке все эти проблемы, поставленные ИИ. Очень хочется поверить в хорошо отработанную речь Теры, благие намерения которой бесспорны. Но остаются вопросы к ее собственной траектории: до работы на GAFA Тера курировала вопросы, связанные с ИИ, в Белом доме. «Партнерство ИИ» — это на самом деле созданный в частной сфере преемник «Инициативы по будущему ИИ», запущенного президентом Обамой публичного политического проекта, в котором участвовали представители технологической сферы и который в декабре 2017 года предложил действительно значимые рекомендации. То есть получается, что человек, который помогал официальным властям регулировать сферу технологий в сотрудничестве с соответствующими предприятиями, сегодня работает с теми же компаниями, стремясь создать нормы, способные послужить пищей для решений официальных властей… Вряд ли можно найти лучшую иллюстрацию того, как законодатель отказался от своей традиционной роли, — и неважно, хорошо это или плохо. Политическая власть, пусть она хочет «сорегулировать» или же предоставляет компаниям все права на саморегуляцию, избавляется тем самым от фикции общей воли. Точно так же как наша способность личного выбора делегируется машине, создание коллективных норм становится епархией производителей машин. Сегодня фраза «Код — это закон» более верна, чем когда-либо ранее.

Обычные политические дискуссии, например из-за налогов или общественных служб, кажутся смешными, когда традиционные атрибуты суверенитета уничтожаются технологическими компаниями. Валюта «Либра», созданная Facebook, грозит отнять у государства его последнюю привилегию — право чеканки монеты. ИИ, способный точечным образом вмешиваться в наши решения, контролирует людей на более интимном уровне, чем закон, и к тому же эффективнее, чем легитимное применение силы. Мы по-прежнему ведем себя так, словно ничего не произошло, сохраняя видимость коллективного обсуждения там, где истинная нормативная власть уже передана алгоритмам. Сознательно или бессознательно, но граждане отпали от государства, унеся с собой свои данные. Они нашли себе нового хозяина.