Человек + машина. Новые принципы работы в эпоху искусственного интеллекта

Ответственный искусственный интеллект: этика как предпосылка научных открытий

Значительная доля исследований проводится на людях. Чтобы защитить таких испытуемых, во многих учреждениях создаются экспертные советы: это комитеты, одобряющие, отслеживающие и контролирующие подобные исследования. В США без подобных советов невозможно провести ни одно академическое исследование, однако в коммерческом секторе таких советов практически нет. Однако некоторые компании, например Facebook, решили самостоятельно разработать собственные правила, касающиеся создания внутренних комитетов по исследовательской этике[59]

. Эти правила основаны на протоколах действующих экспертных советов, но могут отличаться по степени прозрачности информации и корпоративной принадлежности людей, которые допускаются в состав таких комитетов.

Положение осложняется тем, что, за исключением фармацевтической индустрии, не существует стандартного протокола, позволяющего определить, требуется ли провести испытание нового продукта на людях или как именно следует действовать компании в процессе его разработки и тестирования. Естественно, когда речь заходит о новых технологиях вообще и об искусственном интеллекте в частности, мы сталкиваемся со множеством проблем этического характера. Так, Facebook спровоцировал общественную дискуссию, когда выяснилось, что в ходе одного из своих экспериментов компания манипулировала контентом, отображаемым в пользовательских новостных лентах, — увеличивала количество положительных или негативных постов, — чтобы проверить, как это отразится на настроении пользователей. Один колумнист Forbes даже задался вопросом: «Может ли Facebook манипулировать нашим сознанием в научных целях?»[60]

Во второй части мы исследуем проблемы, связанные с этикой применения искусственного интеллекта в НИОКР и других областях. В главе 5 мы расскажем, как в компаниях появляются новые должности, например «менеджер по соблюдению этических норм», — фактически это официальный корпоративный надзиратель и омбудсмен, гарантирующий, что компания придерживается общепринятых норм и ценностей.