Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Проблема в том, что мы не знаем, по каким ставкам торгуют нашими данными… В будущем нам нужно иметь возможность измерять их стоимость, в том числе в экономическом плане. Те, кто хотел бы защитить их полностью, должны будут платить за услуги. Другие, наоборот, смогут выбрать полную прозрачность и получать за это вознаграждение. Между двумя этими крайностями будут возможны самые разные варианты в соответствии с пожеланиями и решением каждого.

Это способ частично вернуть себе свободу воли. Биохимический детерминизм не мешает применению способности суждения. Нет, nudge

– не злой рок, управляемый слепым утилитаризмом: он может и должен формироваться теми, на кого он направлен, в соответствии с их собственными намерениями.

Нам необходима возможность выражать и уважать личные предпочтения. Мы должны сами сохранять контроль. Это вопрос человеческой ответственности и индивидуальной автономии.

Итак, нет никаких причин перекладывать юридическую и моральную ответственность на машину, если «первая директива» позволяет нам принимать собственные решения. Более того, можно различить несколько уровней, образующих концентрические круги: закон, охватывающий поле возможных решений, моральная ответственность согласно предустановленным человеком критериям и, наконец, меры по обеспечению, основанные на юридическом статусе алгоритмов.

Чего же тогда ждать?

«Регламент по защите данных» должен был пойти дальше. Из него нужно было сделать настоящую Хартию цифровых прав. Но на самом деле проблемы не технические и не юридические – это прежде всего культурный и социологический вопрос. Нами манипулируют в беспрецедентных для истории человечества масштабах. Почему мы беспокоимся о присутствии поликарбоната А в напитках, но не о сookie-файлах на айпадах своих детей? К счастью, в общественном осознании этих проблем наметился прогресс после таких скандалов, как с Cambridge Analytica.

Но не нанесет ли подобный сценарий ущерба обществу? Если я могу сохранить свои данные для себя, а при этом пользуюсь плодами прогресса, к которому привели данные других людей, не становлюсь ли я «безбилетником»?

Ну и что? Нельзя пропускать всех подряд через мясорубку алгоритма. Это как с испытаниями лекарств в Дании: участвовать в них решают лишь отдельные люди, но от результатов выигрывают все. Придется смириться с тем, что умный город не будет таким уж умным и что играть в эти игры будут не все. Зато мы сможем сохранить возможность для отклонений и ошибочных шагов, без которых не бывает прогресса.

Да, именно этим прогресс отличается от повальной оптимизации. Но устойчива ли эта модель, учитывая эффективность американских и китайских гигантов?

А разве мы хотим быть на них похожи? Мы сумеем создать ИИ иного качества, превосходящего, учитывая, что он сможет завоевать доверие пользователей. И мы сохраним инновации благодаря политике конкуренции. Китайцы просто смеются над этим, а американцы находятся меж двух огней – по историческим причинам они принимают от частного сектора то, что отвергали бы, если бы оно исходило от государства…