Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

Производители для продвижения продуктов на базе ИИ формируют ассоциации. Так, в 2018 году при Ассоциации Заслуженных врачей России была основана некоммерческая ассоциация «Национальная база медицинских знаний» (здесь и далее – НБМЗ), задачей которой является продвижение в медицинском сообществе РФ решений на базе ИИ. В настоящее время, несмотря на реализацию пилотных проектов, продукты на базе ИИ не пользуются высоким спросом в российском здравоохранении. Основными препятствиями являются отсутствие доверия у медицинского сообщества к результатам диагностики, проводимой с помощью ИИ, барьеры законодательства, препятствующие внедрению решений на базе ИИ, поддерживающих принятие решений медиками. Тем не менее ИИ представляет собой либо полноценный помощник медика, либо вспомогательный инструмент в различных направлениях медицины.

На сегодняшний день различные группы исследований уже демонстрируют, как можно использовать ИИ для прогнозирования возникновения и развития различных заболеваний. К заболеваниям, которые уже так или иначе мониторятся в наши дни с помощью различных технологий ИИ, относятся кардиологические и ишемические заболевания и болезни сосудов, инсульт, диабет, снижение когнитивных функций, в том числе возрастной этиологии: болезни Альцгеймера и Паркинсона, а также онкологические заболевания. Эта прогностическая способность искусственного интеллекта поднимает серьезные вопросы этического характера в сфере здравоохранения. Если ИИ генерирует прогнозы о здоровье, однажды эта информация может быть не просто включена в электронные медицинские карты, но и использована на всех уровнях и этапах жизнедеятельности индивида, может повлиять на качество его жизни, а также состояние здоровья и уровень психологического комфорта. В рамках программы внедрения ИИ в сферу здравоохранения предполагается, что автоматизированный умный мониторинг здоровья граждан станет средством сопровождения состояния их здоровья в течение всей жизни. Внедрение подобных программ ориентировано на продление длительности жизни граждан и улучшение ее качества. Самые сильные стороны ИИ в области здравоохранения – это автоматизированные сбор и анализ данных, мониторинг и диагностика пациентов, оценка рисков возникновения заболеваний, назначение лечения и терапевтических мероприятий, а также проведение высокотехнологичных операций. Эти и другие технологии поддержания здоровья, включающие новейшие разработки ИИ, могут привести к целому ряду этических, юридических, социальных и даже философских проблем. Уже сейчас многие эксперты обеспокоены технологической зависимостью врачей-людей от машин [Council of Europe, 1997]. Например, проводимые по программам ИИ высокотехнологичные операции людей могут приводить к постепенной утрате навыков и квалификации людей-медиков, а также потере знаний, поскольку программы ИИ могут продолжительное время существовать на самообучении и автоматизированном поддержании своих рабочих навыков. Специалисты отмечают, что данная проблема серьезней традиционной проблемы о вытеснении людей роботами. Потеря высокотехнологичных знаний и навыков вдвойне опасна, поскольку человечество может разучиться создавать и контролировать ИИ, фактически уже инициировав его производство.

3.1. ИИ в области здравоохранения

1. Ключевой и относительно широко внедряемой технологией ИИ в сферу здравоохранения является автоматизированный сбор данных о состоянии здоровья и расчет вероятности возникновения заболеваний у пациентов. Предполагается ввести прогнозы, формируемые ИИ, в электронные медицинские карты. Согласно идее создателей данной технологии, доступ к автоматизированному расчету вероятностей заболевания должен облегчить работу лечащего врача. Также при реализации подобной технологии должна возрасти эффективность решений о назначении того или иного лечения. Считается, что с расчетом прогностических рисков заболеваний автоматизированные системы справляются намного лучше. Такой успех объясняется тем, что разрабатываемый для сферы здравоохранения ИИ формирует эмпирическую базу случаев несоизмеримо большую, чем любой врач за всю свою практику. В данных разработках также сведена к минимуму погрешность человеческой психологии. Врачи-люди, как правило, ориентируются на наиболее типовые случаи лечения (поскольку они легки и понятны в применении), они также лучше помнят случаи из недавней практики и те экстраординарные случаи, которые увенчались успешным лечением. Напротив, необычные и неудачные случаи лечения люди-врачи реже принимают во внимание. В отличие от избирательной памяти врачей-людей, программы ИИ «помнят» все случаи и не отдают психологического предпочтения одним или другим.