Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Данная технология вызывает ряд опасений этического характера. Скептики высказываются за то, чтобы ограничить доступ к медицинской карте. Если данные оценки ИИ-рисков будут доступны потенциальным работодателям, страховым компаниям, кредитным и заемным организациям и даже будущим супругам, то они могут быть использованы не в интересах человека. Например, если прогнозы о снижении когнитивных функций сотрудника станут доступными работодателю, то человек может лишиться выгодного контракта. Также информация о возникшей частичной толерантности к опиоидам может всерьез повредить репутации человека. Любые сведения о перенесенных ранее инфекционных заболеваниях, выкидышах, абортах или то, что человек является носителем генетических мутаций, могут послужить источником нежелательных последствий. В процессе лечения личные карточки пациентов попадают в руки не только врачей, но также администраторов и многих клиницистов. В ряде случаев доступ к медицинским данным требуется по условиям сотрудничества при найме на работу или оформлении страховых контрактов [McDougall, 2019]. Утечка данных возможна в самых разных случаях, несмотря на меры предосторожности и политику конфиденциальности, которой придерживаются медицинские учреждения. Наконец, сами пациенты могут передавать сведения о себе третьим лицам или доверять им доступ к результатам анализов или обследований. Вся эта информация может попадать в открытый доступ или передаваться по месту работы, в кредитные организации, страховые компании, судебные органы, иные инстанции. Если при этом данные о здоровье будут содержать высокоточные сведения о долгосрочных прогнозах по здоровью граждан, то этическая сторона дела будет выглядеть весьма тревожной. Представим, что деловые партнеры оказываются информированными о 70 %-й вероятности смерти от инфаркта в ближайшие 5 лет у одного из потенциальных агентов сделки. Данные сведения могут быть использованы как в пользу отклонения сделки, что может расцениваться как дискриминация, или, напротив, поспешного заключения на условиях, предполагающих их невыполнение по причине смерти агента, что будет откровенным злоупотреблением. Так или иначе, высокоточные прогнозы ИИ в отношении весьма деликатных ситуаций приводят к серьезным этическим дилеммам. Также информация о 60 %-й вероятности развития заболеваний, вызывающих временную или пожизненную нетрудоспособность в ближайшие 10 лет, могут побуждать работодателей к немотивированным увольнениям сотрудников, входящих в группу риска. Долгосрочные и точные прогнозы могут всерьез влиять на решения людей в отношении друг друга. Информированность о вероятностях развития различных патологий беременности могут сказаться на решении на решения людей о замужестве и рождении детей. Очевидно, что любое раскрытие врачебной тайны или данных о состоянии здоровья граждан может приводить к дискриминации и злоупотреблениям. Работодатели, заинтересованные в эффективности своих сотрудников, будут нанимать кандидатов с минимальным риском развития болезней. Напротив, потенциальные кандидаты с определенными хроническими или врожденными заболеваниями, вероятнее всего, будут отклоняться. Также кредитные агенты или страховые компании могут принимать неблагоприятные решения в отношении лиц с ослабленным здоровьем. Такое положение дел не зависит напрямую от технологий ИИ, однако многократно усиливает эти риски, а также создает новые прецеденты и сферы распространения. Высокая тонкость прогнозов ИИ в отношении здоровья, более всесторонний мониторинг и анализ данных, а также долгосрочность прогноза при условиях сохранения точности неизбежно меняют отношение людей к подобным прогнозам. В случае их высокой точности и долгосрочности доверие к ним возрастает, а значит, растет и соблазн делать более прямые расчеты экономической целесообразности на основе настолько точных сведений о здоровье и продолжительности жизни людей. Ситуация отягощается также тем, что прогнозы ИИ не просто носят вероятностный характер, но и могут содержать в корне ошибочный прогноз. Некоторые пациенты могут вовсе не быть подвержены риску прогнозируемых ИИ заболеваний. Это означает, что пациенты могут страдать от дискриминации и возможного психологического ущерба в результате ошибки или ложных сведений.