Оптимизм, который убивает. Большое исследование человеческой опрометчивости

Несколько лет назад я встретила Демиса Хассабиса, одного из ведущих в мире исследователей искусственного интеллекта, в родео-клубе в Монтане. Хассабис – невролог. Он изучал человеческую память в докторантуре в Англии, а затем основал фирму под названием DeepMind, которая стала дочерней компанией Google. Хассабис пытается заставить машины учиться лучше людей. О компании говорили в новостях в 2016 году, когда ее система искусственного интеллекта AlphaGo победила лучшего из ныне живущих игроков в тысячелетнюю китайскую настольную игру Go. Во время игры машина импровизировала, используя накопленные данные многих партий Go, чтобы построить новые ходы и выиграть. Этот успех показал, что компьютер может учиться на прошлом опыте и принимать интуитивные и творческие решения, а не просто следовать заданным людьми правилам.

Хассабис указывает на эту победу как на доказательство того, что искусственный интеллект превосходит ожидания исследователей. Но он считает, что машины еще не скоро научатся оценивать будущее.

Искусственный интеллект может сканировать и распознавать шаблоны в данных. Возможно, лучше, чем это делают люди. Компьютеры могут извлекать информацию из больших объемов данных, которые люди не смогут обработать за один раз – или даже за одну жизнь. Люди стремятся учиться на собственном опыте и опыте других. Хассабис видит, что роботы исполняют те роли в нашем обществе, где у них есть преимущество извлекать знания из больших баз данных и работать с ними. Например, в один прекрасный день машины смогут быстрее и лучше врачей диагностировать болезни за счет обработки диагнозов, поставленных миллионами врачей миллионам пациентов. Беспилотные автобусы однажды будут управляться компьютерами, обученными на сотнях миллионов ситуаций на дорогах. В инвестициях искусственный интеллект уже показывает свое превосходство над людьми в анализе больших объемов данных о краткосрочных сделках. Goldman Sachs уже автоматизировали торговлю акциями, заменив всех шестьсот людей-трейдеров (за исключением двух) компьютерами, поддерживаемыми инженерами.

Но у людей остается преимущество, когда дело доходит до выявления глубоких перемен и понимания факторов, не связанных с прошлыми прецедентами или тенденциями. Говард Маркс – глава Oaktree Capital Management и широко уважаемый инвестор, – отметил, что доверие фондов количественного инвестирования компьютерным моделям может стать их ахиллесовой пятой. Компьютеры рассчитывают прибыль, полагаясь на ранее актуальные шаблоны.

– Они не могут предсказать изменения в этих шаблонах и отклонения от них, таким образом переоценивая надежность прошлых норм, – пишет он.

Компьютерная модель, использующая исключительно данные прошлого и настоящего, может недооценить способность нового генерального директора положительно повлиять на стоимость акций, если в прошлом у компании не было успешных руководителей. Тот же генеральный директор может прекрасно справиться со сложными временами, которые ожидают впереди. Человек обладает способностью – по крайней мере, гипотетически – более глубоко анализировать тенденции, которые находятся за пределами типичного набора данных, и выходить за рамки числовых показателей.

Напротив, чрезмерное доверие компьютерам при принятии решений приводит к переоценке метрик, потому что большинство программ опираются главным образом на числовые показатели. И хотя компьютер может осуществить покупку или продажу акций с точностью до миллисекунды, такое молниеносное принятие решений способно привести к катастрофе, если алгоритм не распознает риск, понятный только человеку. Серия автоматических решений может быстро привести к краху фирмы или даже всего фондового рынка.

В мире, где искусственный интеллект играет все более заметную роль, люди по-прежнему будут превосходить машины в комплексных и эмпатических задачах, считает Хассабис. Человеческое преимущество также заключается в нашей способности смотреть за пределы данных и целей, на достижение которых мы можем запрограммировать машины. Иногда победить в игре – не самое главное.

Мы еще не приспособились к этой новой тенденции. Прямо сейчас в медицине бо́льшую роль играет правильная постановка диагноза – самая ближайшая цель. Меньше внимания и меньше ресурсов тратится на долгосрочную работу по уходу за больными пациентами и на их ознакомление с плюсами и минусами разных вариантов лечения. Точно также в инвестициях основной упор делается на более точное прогнозирование числовых показателей и цен акций в следующем квартале, а не на оценку долгосрочной ценности бизнеса. Нам еще предстоит понять, что дальновидность превосходит по ценности информацию в игре, в которую мы играем с машинами.