WTF? Гид по бизнес-моделям будущего

Во время президентства Обамы были предприняты целенаправленные попытки по обеспечению так называемого «интеллектуального раскрытия информации», которое определяется как «своевременное предоставление комплексной информации и данных в стандартизованных машиносчитываемых форматах таким образом, чтобы потребители могли принимать обоснованные решения». Новые технологии, такие как блокчейн, также могут кодировать контракты и правила, создавая новые виды «умных контрактов». Использование смарт-контрактов в обеспечении конфиденциальности данных могло бы стать очень эффективным. Вместо того чтобы использовать в своем браузере инструмент грубой силы «Запретить отслеживание», пользователи могли бы устанавливать более детальные ограничения на использование своих данных. В отличие от раскрытия информации на бумажных носителях, цифровые договоры о конфиденциальности данных могут иметь законную силу и отслеживаться.

Однако, когда мы сталкиваемся со все более автоматизированными системами для обеспечения соблюдения правил, важно иметь возможность понять критерии для принятия решения. В будущем, когда будет господствовать режим, который некоторые называют «алгократией» – правление посредством алгоритма, – алгоритмы все чаще начнут использоваться для принятия решений в реальном мире. Начиная с решения, кому выдавать ипотеку, а кому нет, и заканчивая тем, как распределять донорские органы, а также кого выпускать из тюрьмы, а кого нет. Соблюдение принципа равных возможностей требует, чтобы у нас было какое-то «окно», позволяющее увидеть процесс принятия решений.

Если вы, как и я, однажды проехали на красный свет и вас засекла камера автоматического слежения, то вы знаете, что алгоритмическое правоприменение может выглядеть вполне справедливым. Мне было предоставлено изображение с временной отметкой, где мой автомобиль выезжал на перекресток после того, как зажегся красный свет. Не поспоришь.

Преподаватель права Таль Зарски, пишущий об этике интеллектуального анализа данных и алгоритмических решений, утверждает, что, даже когда программное обеспечение принимает решение на основе тысяч переменных, и самое большее, что разработчик алгоритма может сказать, «это то, что выявил алгоритм на основе предыдущих случаев», существует потребность в интерпретации. Если мы ценим нашу человеческую свободу, должна существовать возможность объяснения, почему к человеку был применен дифференцированный подход на основе алгоритма.

По мере того как мы вступаем в эпоху все более продвинутого машинного обучения, возможно, делать это будет все труднее и труднее. Если мы не будем иметь четко выраженную позицию относительно того, какой режим регулирования – старый или вновь выработанный – необходимо применить, ждите судебных разбирательств.

Регулирование встречается с репутацией

Говорят, что «лучшее правительство то, которое правит как можно меньше». К сожалению, факты говорят об обратном. Без верховенства закона власть устанавливает правила в основном в пользу правящего меньшинства. Так что под фразой «правит меньше» подразумевается, что правила приведены в соответствие с интересами обычных людей. В экономике, подстроенной под интересы меньшинства, правила часто несправедливы по отношению к остальным. Экономика, учитывающая интересы большинства, может показаться несправедливой для некоторых. Но «завеса невежества» Джона Ролза[6] – идея о том, что лучшими правилами для политического или экономического строя являются те, которые люди выбрали бы, не зная заранее о своем положении в этом строе, – убедительный аргумент в пользу того, что лучшим является то правительство, которое действует в интересах большинства.

Как оказалось, в этом также состоит урок технологических платформ. Как мы видели на примере TCP/IP, правила в идеале должны быть неотъемлемой частью дизайна платформы, а не каким-то дополнением к ней. Но поскольку правила, сколь бы сложными они ни были, приведены в соответствие с интересами участников, как в случае со стремлением корпорации Google к релевантности, регулирование становится по большей мере невидимым. Кажется, что все работает само по себе.

Системы репутации – это один из способов встраивания регулирования в дизайн онлайн-платформ. У каждого из миллионов товаров компании Amazon есть потребительский рейтинг, помогающий потребителям принимать обоснованные решения относительно того, какие товары покупать. Такие сайты, как Yelp и Foursquare, предоставляют подробные отзывы посетителей ресторанов: те сообщают о своем недовольстве, если еда или обслуживание оказались низкого качества, и ставят высокую оценку тем заведениям, которые преуспели в кулинарном мастерстве и сервисе. TripAdvisor и другие подобные сайты предоставляют аналогичные отзывы, помогая путешественникам найти лучшие места для проживания в самых отдаленных уголках планеты. Эти отзывы помогают сайтам алгоритмически создавать рейтинг товаров или услуг, которые, вероятнее всего, понравятся пользователям.