2062: время машин

Основная же разница между нефтью и данными заключается, вероятно, во владении. Страны быстро заявили свои права на нефть под нашими ногами, на дне наших морей. Однако подавляющая часть данных – частная собственность. Всего пара монополий данных, прежде всего Google и Facebook, владеет большей и все нарастающей долей наших данных. И пока монополии на них богатеют, мы – производители данных – наслаждаемся крохами от их стоимости. Вдобавок все эти данные ставят под угрозу нашу приватность.

ИИ следит за тобой

В 2062 году одной из главных проблем станет защита тайны частной жизни. Журнал The Economist установил, что только Facebook просмотрел, сохранил и может распознать 1,2 миллиарда разных лиц. Задумайтесь об этом на секунду. Это практически одна шестая всех людей на планете. Через несколько десятков лет, скорее всего, будет существовать база, стремящаяся к тому, чтобы хранить данные о каждом лице.

Даже наши домашние животные в опасности: в октябре 2017 года «Google Фото» начал распознавать и определять кошек и собак. Теперь, когда Google видит вашего пуделя, он готов искать вас неподалеку. В следующий раз, когда будете отмечать друга или его домашнего питомца в социальных сетях, помните, что выдаете личность не только животного, но и своего друга.

Кремниевая долина тоже вполне представляет себе не только кто вы такой, но и как вы проголосуете. А также такую личную информацию, как, например, ваша сексуальная ориентация. В 2017 году команда из Стэнфордского университета продемонстрировала, что способна спрогнозировать ваш голос на выборах, просто используя изображения из Google Street View[83]. Даже простой лайк на Facebook может предоставить достаточно информации, чтобы предсказать, как человек будет голосовать[84]. Другая команда из Стэнфордского университета в ответ заявила, что научила алгоритм машинного обучения различать гомосексуальных и гетеросексуальных людей по лицам[85].

Технологические компании мало перед чем остановятся в процессе сбора данных. Брюс Шнайер, эксперт по компьютерной безопасности, заметил, что «наблюдение – бизнес-модель интернета»[86]. Эл Гор сформулировал мысль еще короче и назвал это «экономикой преследования»[87]. Почему Google считает, что может отслеживать ваш смартфон с Android, когда вы выключаете геолокацию и даже вытаскиваете SIM-карту?[88] Почему Uber считает, что это нормально – следить за вашим местоположением через пять минут после окончания поездки?[89] Почему Pokemon Go считала, что у нее должен быть доступ ко всей учетной записи Google на iOS, включая электронную почту и историю браузера?

Разумеется, границы частной жизни нарушают не только технологические компании. Государства тоже используют новые технологии, чтобы за нами следить. Правительство американского штата Делавэр, например, устанавливает «умные» камеры на полицейские машины, чтобы обнаруживать транспортные средства беглецов, похищенных детей или пропавших взрослых. Подобное использование сейчас может быть вполне безобидным, но что случится, когда государство начнет использовать те же технологии для отслеживания политических активистов или беженцев? В Китае полиция Чжэнчжоу начала тестировать очки с функцией распознавания лиц. Эти очки могут обработать 100 000 лиц за секунду. При использовании такой технологии в толпе демонстрантов не спрячешься.

Связанные данные

Даже в том случае, если компании ответственно анонимизируют собранные данные, они могут ошибаться. Одна из проблем – связанные данные с разных ресурсов. Сам по себе набор данных может не выдавать ничего приватного. Однако при сочетании двух или более наборов данных частная жизнь может оказаться под угрозой. Хороший пример – случай Netflix.

В 2006 году Netflix запустил конкурс на миллион долларов, чтобы разработать лучшую систему рекомендации фильмов. Компания опубликовала 100 480 507 оценок от 480 189 пользователей, которые они поставили 17 770 разным фильмам. Для того чтобы защитить приватность пользователей, Netflix тщательно их анонимизировала, удаляя персональные данные и заменяя имена случайными числами. Однако не сработало. Исследователи Техасского университета в Остине смогли идентифицировать пользователей из набора данных Netflix, сопоставляя их с оценками и отметками времени в интернет-базе данных фильмов (IMDb). Получается, если удалить из набора данных самые популярные фильмы, которые нравятся всем, можно много кого идентифицировать благодаря комбинациям менее популярных фильмов, которые им нравятся.

Netflix могла бы усложнить задачу распознавания пользователей, удалив подразделы данных, изменив временны́е отметки или внедрив туда намеренные ошибки. Однако даже частичные данные, или измененные, или данные с ошибкой ненамного осложняют процесс идентификации некоторых пользователей. Небольшого количества неанонимных сведений оказалось достаточно, чтобы свести на нет анонимизацию солидного набора данных Netflix.