Власть и прогресс: Наша тысячелетняя борьба за технологии и процветание

Сегодня мы все ближе подходим к антиутопии будущего "Машина времени" Уэллса. Наше общество уже стало двухуровневым. На вершине находятся крупные магнаты, которые твердо уверены, что они заработали свое богатство благодаря своей удивительной гениальности. Внизу - обычные люди, которых технологические лидеры считают склонными к ошибкам и готовыми к замене. По мере того, как ИИ проникает во все новые и новые аспекты современной экономики, становится все более вероятным, что эти два уровня будут все больше отдаляться друг от друга.

Все это не обязательно должно было быть так. Цифровые технологии не должны были использоваться только для автоматизации труда, а технологии искусственного интеллекта не должны были применяться без разбора, чтобы усилить ту же тенденцию. Технологическое сообщество не должно было быть заворожено машинным интеллектом вместо того, чтобы работать над полезностью машин. В этом пути технологий нет ничего предрешенного, как нет ничего неизбежного в двухуровневом обществе, которое создают наши лидеры.

Существуют пути выхода из сложившейся ситуации путем изменения конфигурации распределения власти в обществе и перенаправления технологических изменений. Такие изменения должны происходить на основе восходящих демократических процессов. Однако зловеще то, что ИИ также разрушает демократию.

 

Глава 10. Демократия ломается

История социальных сетей еще не написана, а их влияние не является нейтральным.

-Крис Кокс, руководитель отдела продуктов, Facebook, 2019 год

Если все и всегда вам лгут, то следствием этого будет не то, что вы поверите в эту ложь, а то, что никто уже ничему не верит.

-Ханна Арендт, интервью 1974 года

 

2 ноября 2021 года звезда китайского тенниса Пэн Шуай написала на сайте социальных сетей Weibo, что ее принудил к сексу высокопоставленный чиновник. Сообщение было удалено в течение двадцати минут и больше не появлялось в китайских социальных сетях. К тому времени, как сообщение было удалено, ряд пользователей сделали скриншоты сообщения, которые попали в зарубежные СМИ. Но доступ к этим зарубежным СМИ также был быстро подвергнут цензуре. В Китае был большой интерес к Пенг Шуай, но мало кто смог увидеть оригинальное сообщение, и не было никакого общественного обсуждения.

Такое быстрое удаление политически чувствительной информации является правилом, а не исключением в Китае, где Интернет и социальные сети находятся под постоянным наблюдением. По сообщениям китайского правительства, только на мониторинг и цензуру онлайн-контента ежегодно тратится около 6,6 миллиардов долларов.

Правительство также вкладывает огромные средства в другие цифровые инструменты и особенно в искусственный интеллект для слежки. Это наиболее заметно в провинции Синьцзян, где систематический сбор данных о мусульманах-уйгурах начался сразу после июльских беспорядков 2009 года, но с 2014 года он усилился. Коммунистическая партия поручила нескольким ведущим технологическим компаниям разработать инструменты для сбора, агрегирования и анализа данных об индивидуальных и домашних привычках, манере общения, работе, расходах и даже хобби, чтобы использовать их в качестве исходных данных для "предиктивной полицейской деятельности" против одиннадцати миллионов жителей провинции, которые считаются потенциальными диссидентами.

Несколько крупных технологических компаний Китая, включая Ant Group (частично принадлежащую Alibaba), телекоммуникационный гигант Huawei и некоторые из крупнейших в мире компаний по разработке искусственного интеллекта, такие как SenseTime, CloudWalk и Megvii, сотрудничали с правительством в разработке инструментов слежки и их внедрении в Синьцзяне. В настоящее время ведутся работы по отслеживанию людей по их ДНК. Технологии искусственного интеллекта, распознающие уйгуров по чертам лица, также используются повсеместно.

То, что началось в Синьцзяне, затем распространилось на остальную часть Китая. Камеры распознавания лиц теперь широко распространены по всей стране, а правительство неуклонно продвигается к внедрению национальной системы социального кредита, которая собирает информацию о физических и юридических лицах для отслеживания их нежелательной и неблагонадежной деятельности. Это, конечно, включает в себя инакомыслие и подрывную критику правительства. Согласно официальному плановому документу, система социального кредита