Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система

1. Одной из важнейших составляющих технологии «Умный дом» является автоматизированный сбор данных об эксплуатации помещения. Для того чтобы оптимально регулировать функционал помещения с помощью автоматизированного контроля, ИИ должен наладить качественную обратную связь с помещением. В частности, ему требуется аккумулирование и анализ тех данных, которые поступают из самого эксплуатируемого помещения. Если в вечерние часы вторников и четвергов электричество расходуется меньше, а в другие дни больше – ИИ-система запишет этот результат. В следующие вечера вторников и четвергов система автоматизированной подачи электроэнергии может учесть данные прошлых расходований. Чтобы ИИ-система эксплуатации помещения была действительно гибкой, ей требуется фиксировать любые мелочи пользования помещением и корректировать услуги в зависимости от этих данных. Системе нужно предлагать тот объем услуг, который вырисовывается как наиболее реалистичный с точки зрения аналитического прогноза, сделанного на основе собранных данных. В этом смысле программа ИИ, встроенная в систему «Умный дом», работает по аналогии с интерактивными тестовыми системами, которые подстраиваются под ответы тестируемого, или как рекламные компании, которые собирают данные о пользователях из соцсетей и других интернет-ресурсов, чтобы предложить им потенциально необходимые услуги. Во всех этих случаях на входе срабатывает сбор и анализ данных об особенностях потребления, а на выходе предложение об услуге, наиболее релевантной с точки зрения обнаруженных закономерностей.

Кейс.

После внедрения автоматизированной системы сбора данных по расходу электроэнергии системами Мосэнерго конечным потребителям стали предлагаться усредненные расчеты затрат электроэнергии исходя из прошлых данных. При работе с собственниками нежилых помещений, сдаваемых в аренду, данная программа предлагает не только расчет средних показателей, но и предположения о смене арендодателей, а также типе их производственной деятельности. Так, при значительном изменении объемов трат электроэнергии система может выдать предположение, что назначение помещения было изменено с представительского офиса под ночной клуб или круглосуточный магазин.

Использование системой «Умный дом» технологии сбора и анализа данных по эксплуатации помещения порождает ряд этических недоразумений. Как и прочие системы ИИ, технологии «Умного дома» достаточно внимательны и ресурсоемки, чтобы накопить огромный объем данных о привычках владельцев домов, их частных пристрастиях, нормах потребления, затратах и расходах, организации быта и прочих особенностях эксплуатации помещений. Определенное опасение у хозяев домов могут вызывать возможная утечка информации или ее попадание в руки третьих лиц. Дальнейшее использование данной информации может скрывать в себе возникающие угрозы безопасности жизни и благополучию владельцев домов. Фактически доступ к системам управления домом означает доступ к информации об образе жизни семьи. По данным о том, как и что работает в помещении, можно почти полностью воссоздать уклад семьи, привычки хозяев и всех домочадцев, реконструировать потребности, склонности, определенные традиции и даже ценности, которых они придерживаются. Если данная информация попадет в руки злоумышленником или мошенников, различные злоупотребления окажутся вполне возможными. Также если подобная информация станет достоянием коммерческих структур, то это может привести к активному предложению специализированной рекламы, в получении которой собственники дома не заинтересованы.