Экспонента. Как быстрое развитие технологий меняет бизнес, политику и общество

Самое страшное, что экспоненциальное развитие дронов продолжается, а потому предсказать, какой станет технология через некоторое время, довольно сложно. Управляемые человеком беспилотники — первый шаг к созданию «автономных систем». И армии, и вооруженные группировки все активнее интересуются оружием, которое позволяет поражать врага, не нанося ущерба населению. Не следует думать, что автономность бинарна (есть или нет); она подразумевает непрерывный спектр промежуточных вариантов. Реактивная ракета Tomahawk находится на вооружении США уже больше тридцати лет. Она способна ориентироваться на местности даже без GPS и обеспечивает точность удара в пределах метра[435]

. Ракета является автономной лишь отчасти: человек все же нужен, чтобы «сообщить» компьютеру, когда и куда наносить удар. Однако возможны полностью автономные дроны. Разработанные в Израиле дроны Harpy и Harop часто относятся к категории автономного оружия. Harpy использует электромагнитные датчики для поиска заранее заданных целей, а созданный на его базе Harop для обнаружения цели применяет визуальные и инфракрасные датчики.

Развитие технологий распознавания лиц и компьютерного зрения будет способствовать усовершенствованию существующих видов вооружения. Модель, доступная в широкой продаже и даже не предназначенная для использования в военных целях, Skydio R1, оснащена самыми современными приборами компьютерного зрения и способна самостоятельно распознавать и отслеживать перемещения владельца: 13 камер осуществляют сбор и нанесение данных на карту, планируют маршрут и ищут возможности обойти препятствия[436]

. Такой дрон стоит меньше 2500 долларов. Подобные модели с высокой степенью автономности получают все более широкое распространение. В 2017 году Международный институт по изучению проблем мира в Стокгольме проанализировал 154 системы вооружения с функцией автоматического целеуказания и пришел к выводу, что более одной трети из них способны распознавать цель и атаковать без участия человека[437]

.

В ближайшем будущем автономные системы смогут вести военные действия и осуществлять тысячи сложных и хорошо скоординированных операций быстрее и с большей гибкостью, чем это делают люди. Задержки в коммуникации, пока неизбежные в силу того, что дронам приходится обмениваться информацией через командные центры с участием человека, останутся в прошлом. Полностью синхронизированные и оборудованные датчиками и компьютерами беспилотники смогут поддерживать коммуникации без задержек[438]

. Нельзя исключать, что появится полностью автономное вооружение, способное принимать решения о том, когда, кого и как атаковать. Человеку нужно будет лишь очертить зону военных действий, обозначить цели, предоставить данные об особенностях врага и задать общие правила действий, а машины сами будут жать на спусковой крючок и решать, враг ли в поле зрения и лучше ли уничтожить его или просто благородно вывести из строя.

Тут и фантастику читать не требуется — и так ясно, что пока все это выглядит как неудачно сконструированная антиутопия. Все нынешние нормы и правила ведения войны базируются на предположении о том, что человек полностью контролирует происходящее. Международный уголовный суд расследует обвинения в военных преступлениях, выдвинутых против отдельных лиц, прежде всего политиков и военачальников[439]. Решения Нюрнбергского трибунала подтвердили, что человек несет ответственность за совершенные действия и что виновными в военных преступлениях могут признаваться отдельные лица. Юристы утверждают, что пока нет полной ясности относительно того, как суды должны трактовать преступления, совершенные с использованием автономных или полуавтономных средств вооружения. Как было сказано в одной газетной статье на эту тему, наблюдается так называемый «разрыв зоны ответственности»[440]. Очевидно, что ответственность несут люди, но кто именно? Инженеры или программисты? Генералы или политики? А если машины полностью автономны и не получали указаний на проведение конкретных боевых операций? Женевской конвенции для автономных средств вооружения не существует, и ясных ответов на такие вопросы нет.