Восстание машин отменяется! Мифы о роботизации

«Сюрпризы автоматизации», «зависимость от автоматизации» и «предубежденность по поводу автоматизации» были изучены учеными. Один пилот, у которого я брал интервью, отзывался о компьютерах своего самолета как «о кобре, замершей перед прыжком… Пока у меня есть хорошая длинная палка и я могу в нее тыкать, – добавлял он, – со мной, возможно, все будет хорошо, но я не могу быть уверен, что она не набросится на меня и не укусит».

На видео, записанном в 1990-е годы, мы можем увидеть учебный семинар авиакомпании American Airlines, где опытный пилот-инструктор сокрушается по поводу «детей пурпура» – пилотов, которые стали столь зависимы от автоматизации, что просто откидываются на спинку кресла и позволяют компьютеру вести самолет по курсу, который на мониторе показывается пурпурной линией.

Тем не менее большинство современных пилотов, как де Креспиньи, проходили обучение и начинали работать в традиционных кабинах с круглыми циферблатами и только потом переходили на компьютеризированные самолеты. Но современные молодые пилоты, которые делают карьеру сегодня, никогда не летали на воздушном судне с традиционным альтиметром или указателем воздушной скорости. Являются ли они другими людьми? Как признался мне один молодой пилот: «Кажется, сейчас все изменилось… это обычная работа. Ты садишься, включаешь компьютер, потом возвращаешься на землю, выключаешь компьютер и едешь домой».

Каким же стал новый опыт этой профессии, появившейся сто лет назад?

«Что он сейчас делает?» – это вопрос, который все пилоты задают по поводу своих компьютеров в тот или иной момент (исследователи называют это явление «режимом узнавания»). «Каждый раз, когда я говорю это, я ощущаю досаду, – рассказывает один пилот, – потому что я очень хорошо знаю, что 99 % времени он делает именно то, что я велел делать, а я велю ему делать то, чего сам не понимаю». Существует мнение, что только неопытные пилоты задают вопрос «Что он сейчас делает?». Опытный пилот просто пожмет плечами и скажет: «Ну, он так иногда делает». В этом ответе скрыто покорное смирение перед новой реальностью. Третьи вообще сердито заявляют: «Почему он это делает? – неправильный вопрос. Если ты хочешь задать вопрос, ты должен спросить: "Почему я позволил ему контролировать меня?" Избавься от него. Верни себе самолет».

На карту поставлены основополагающие идеи о человеческом факторе, контроле за чьей-то работой, существовании и работе внутри системы. Кризис самоопределения пилотов авиалиний схож с состоянием ученых, изучающих глубины, пилотов дронов, исследователей космоса и представителей многих других профессий, чьи познавательные способности под давлением компьютеров и автоматизации перенесены в цифровой виртуальный мир, но при этом они по-прежнему ощущают последствия и тяготы мира физического. В автоматических автомобилях будущего вождение может стать скорее чем-то похожим на внимательное отслеживание процесса пилотами самолетов, а не на спокойную расслабленность пассажиров во время поездки.

В конце 2013 года индустриальная отраслевая рабочая группа Федерального управления гражданской авиации США по автоматизации кабины экипажа оценила текущее состояние техники и навыков пилотов. Они рассмотрели 26 аварий и несчастных случаев и обнаружили, что пилоты могут слишком полагаться на автоматизированные системы, не понимать их в достаточной степени и делать ошибки при их использовании. Более того, требования к объему знаний и умений, необходимых для пилота, были расширены. Хотя некоторые традиционные навыки сейчас становятся «атавистическими» и могут понадобиться только в критическом положении или при аварии, пилоты должны по-прежнему хорошо владеть ими. Определение «стандартных» летных навыков изменилось, и от современного пилота ждут большего, чем от пилота даже в недавнем прошлом.

Кэти Эббот – доктор философии в области вычислительных систем, главный научный консультант и технический эксперт Федерального управления гражданской авиации США по человеческим факторам в автоматизации кабины экипажа и сопредседатель рабочей группы. Она подчеркивает, что автоматизация не исключает человеческого вовлечения в управление самолетом, но, скорее, переносит его. Автоматизируя задачи, «мы не исключаем возможность человеческой ошибки, – объясняет Эббот, – мы просто меняем место, где ошибка происходит». Более того, она указывает на то, что опытные пилоты совершают такое же количество ошибок, как и менее опытные, но это ошибки другого плана. С точки зрения познавательного процесса ошибка – это «побочный эффект наличия мозгов» и необходимая для обучения вещь.