Власть и прогресс: Наша тысячелетняя борьба за технологии и процветание

Избыточная подгонка особенно опасна для машинного интеллекта, поскольку она создает ложное ощущение успеха, в то время как на самом деле машина работает плохо. Например, статистическая связь между двумя переменными, скажем, температурой и ВВП на душу населения в разных странах, не обязательно указывает на то, что климат оказывает значительное влияние на экономическое развитие. Это может быть просто результат того, как европейский колониализм воздействовал на территории с разными климатическими условиями и в разных частях земного шара в ходе конкретного исторического процесса. Но без правильной теории легко спутать причинно-следственные связи и корреляцию, и машинное обучение часто делает это.

Проблема чрезмерной подгонки становится намного хуже, когда алгоритмы имеют дело с социально значимой ситуацией, в которой люди реагируют на новую информацию. Реакция людей будет означать, что соответствующий контекст часто меняется, или он может измениться из-за действий, которые они предпринимают на основе информации, предоставляемой алгоритмами. Приведем экономическую иллюстрацию. Алгоритм может заметить ошибки, которые человек совершает при поиске работы - например, ищет профессии, где мало вакансий по сравнению с количеством людей, подающих заявления, - и может попытаться исправить их. Процедуры, разработанные против избыточной подгонки, такие как разделение обучающей и тестирующей выборок, не устраняют соответствующую проблему избыточной подгонки: обе выборки могут быть адаптированы к конкретной среде, в которой существует много незаполненных вакансий в розничной торговле. Но это может измениться со временем именно потому, что мы имеем дело с социальной ситуацией, в которой люди реагируют на имеющиеся данные. Например, по мере того, как алгоритмы будут побуждать людей подавать заявки, вакансии в розничной торговле могут стать переполненными и перестать быть такими привлекательными. Без полного понимания этого ситуационного и социального аспекта человеческого познания и того, как динамично меняется поведение, чрезмерная подгонка будет продолжать мешать машинному интеллекту.

Есть и другие тревожные последствия отсутствия у ИИ социального интеллекта. Хотя он использует данные, полученные от большого сообщества пользователей, и таким образом может включать социальное измерение данных, при существующих подходах он не использует тот факт, что человеческое понимание основано на избирательном подражании, общении и аргументации между людьми. В результате многие попытки автоматизации, как представляется, скорее уменьшают, чем увеличивают гибкость, которой хорошо обученные работники могут достичь, быстро и плавно реагируя на изменяющиеся обстоятельства, часто используя навыки и взгляды, которым они учатся у своих коллег.

Конечно, эти аргументы не исключают возможности того, что совершенно новый подход сможет решить проблему AGI в ближайшем будущем. Однако пока нет никаких признаков того, что мы близки к созданию такого подхода. Это также не основная область, в которую инвестируются средства на ИИ. Промышленность по-прежнему сосредоточена на сборе большого количества данных и автоматизации узких задач на основе методов машинного обучения.

Экономическая проблема от такой бизнес-стратегии очевидна: когда люди не так бесполезны, как иногда предполагается, а умные машины не так умны, как обычно предполагается, мы получаем так себе автоматизацию - все перемещения и мало обещанного повышения производительности. На самом деле, даже сами компании не получают большой выгоды от такой автоматизации, и часть внедрения ИИ может быть вызвана шумихой, как отметил бывший ученый в области ИИ Альберто Ромеро, которого мы цитировали ранее: "Маркетинговая сила ИИ такова, что многие компании используют его, сами не зная зачем. Все хотели попасть на волнорез ИИ".

 

Современный Паноптикон

Другое популярное использование современного ИИ иллюстрирует, как энтузиазм в отношении автономных технологий вместе с массовым сбором данных выковал весьма специфическое направление развития цифровых технологий и как это снова привело к скромным выгодам для корпораций и значительным потерям для общества и работников.

Использование цифровых инструментов для мониторинга работников не является чем-то новым. Когда социальный психолог и исследователь бизнеса Шошана Зубофф опрашивала работников, переживающих внедрение цифровых технологий в начале 1980-х годов, общим рефреном было усиление контроля со стороны руководства. Как сказал один офисный работник: "ETS [цифровая система учета расходов] стала для руководства средством проверки нас. Они могут отследить любые изменения на поминутной основе, если захотят".

Но ранние усилия меркнут по сравнению с тем, что мы видим сегодня. Amazon, например, собирает огромное количество данных о своих курьерах и работниках складов, которые затем объединяются с алгоритмами для реструктуризации работы таким образом, чтобы увеличить пропускную способность и минимизировать сбои.