2062: время машин

На сегодняшний день эта схема действует скорее как пряник, нежели как кнут. Например, люди с хорошим рейтингом могут бронировать номера в отелях и велосипеды без внесения залога. Какое-то время они могли пользоваться приоритетной полосой в аэропорту Пекина. Самый большой сервис знакомств в Китае также рекламирует людей с хорошим рейтингом. Однако Китай объявил, что с мая 2018 года людям с плохим рейтингом нельзя будет пользоваться поездами и самолетами. Потенциал для вредного использования этой системы велик, а Китай уж точно не самая обеспокоенная правами человека страна[97].

После Сноудена

Китай – не единственная страна, которая вызывает опасения. В 2013 году Эдвард Сноуден раскрыл существование нескольких программ глобальной слежки, которую проводят разведывательные агентства США, Австралии, Канады, Новой Зеландии и Великобритании. Электронные письма, сообщения, стационарные и мобильные телефоны прослушивались. Цели были просты: «Собрать все», «Обработать все» и «Использовать все». Под прицел попали не только наши враги; законопослушные граждане стран, участвовавших в слежке, тоже попали в эту сеть. Неудивительно, что последовало недовольство. Такая всеобъемлющая слежка, вероятно, противоречит четвертой поправке к Конституции США, которая запрещает необоснованные обыски и задержания и требует, чтобы ордер был утвержден в судебном порядке и подкреплен основаниями.

Тем не менее я все еще не понимаю, почему так много людей удивились, что их электронные письма читают. Перехватить электронное письмо проще, чем остальные виды коммуникации. Его можно прочесть. В отличие от телефонного разговора, его даже не надо расшифровывать. Отслеживание незашифрованных электронных писем – это настолько элементарно, что государство просто не могло не поддаться искушению.

К сожалению, ИИ сделает процесс слежки государства за своими гражданами еще проще. Алгоритмы для распознавания голоса могут одновременно слушать миллионы телефонных звонков. Алгоритмы компьютерного слежения могут одновременно отсматривать миллионы CCTV-камер. Алгоритмы обработки естественного языка могут читать одновременно миллионы электронных писем.

Лидерство Европы

Европа дает некоторую надежду на частную жизнь в 2062 году. В мае 2018 года Общий регламент по защите данных (GDPR) вступил в силу по всей Европе. Главная цель этого акта – дать европейским гражданам самим решать судьбу своих личных данных. Он предоставляет им некоторые основные права в отношении своих данных, такие как право иметь к ним доступ или стирать их.

Самый, вероятно, важный аспект дискуссии на тему конфиденциальности связан с правом объяснения. Когда ИИ принимает автоматизированное решение, акт гласит, что мы имеем право на «осмысленную информацию о примененной логике, а также о важности и предполагаемых последствиях такого решения». Нам еще предстоит увидеть, как суды будут это интерпретировать. Однако это может обеспечить гражданам Европы важные объяснения того, как программы ИИ принимают свои решения, а также возможность отказаться от любого из таких решений.

Чтобы получить согласие на сбор и использование ваших данных, согласно GDPR, компании не имеют права использовать длинные и неразборчивые условия, которые полны юридических терминов. Согласие должно быть четким и отличимым от всего остального, предоставлено во вразумительной и легкодоступной форме, использовать ясный и простой язык. Отклонить согласие должно быть так же просто, как дать его.

Стимулы для соблюдения этого акта существенны. Организации, нарушающие GDPR, могут быть оштрафованы на четыре процента их годового оборота или на двадцать миллионов евро (в зависимости от того, какая сумма крупнее). Нам еще предстоит увидеть результат этих законов, однако они кажутся хорошим первым шагом на пути к защите личных данных.

Владение данными

GDPR – это только начало изменений, которые нужны, чтобы сохранить нашу частную жизнь. Как так выходит, что компании вроде Facebook не производят никакого контента, но владеют им всем? Разве не был бы мир справедливее, если бы мы владели собственными данными и могли решать, кому их использовать? И если бы это было нашим правом, а не отклонением?

На Mobile World Congress в 2018 году технический директор IBM Watson Роб Хай сказал репортеру из TechRepublic: «Так же, как с любыми новыми технологиями, важно понимать, как сделать это этично и ответственно. Для нас это сводится к трем главным принципам. Доверие, уважение и конфиденциальность… Конечно, конфиденциальность заключается в понимании того, что ваши данные – это наши данные»[98].

Такое нарочно не придумаешь! «Ваши данные – это наши данные?» Вообще-то нет. Ваши данные – не данные IBM. Возможно, это просто была оговорка, но комментарий Хая отлично подчеркивает чувство правоты технологической индустрии. Это потребует регулирования, но к 2062 году ваши данные должны быть повсеместно признаны вашими данными.

ИИ как решение