Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Противоречия, связанные с проектом Maven, потенциально могли обостриться до крайности. Многие ученые, занимавшиеся в Google тематикой глубокого обучения, включая Джеффа Хинтона и основателей DeepMind, были принципиально против создания автономных систем вооружения. Тем не менее, многие из топ-менеджеров Google очень даже хотели работать с Министерством обороны. В частности, Эрик Шмидт, председатель правления Google, был одновременно председателем Совета по оборонным инновациям, гражданской организации, созданной администрацией Обамы, которая стремилась ускорить перемещение новых технологий из Кремниевой долины в Пентагон. На недавнем заседании Совета Шмидт заявил, что между Кремниевой долиной и Пентагоном существует «слишком большой разрыв»⁵⁰⁵

и что главная задача Совета – этот разрыв ликвидировать. Руководство Google также видело в сотрудничестве с военными еще один способ развить облачный бизнес компании. Поэтому за кулисами компания уже активно сотрудничала с министерством обороны. Уже примерно через месяц после запуска проекта Maven, в мае, команда «гуглеров» встретилась с официальными лицами в Пентагоне, а на следующий день компания подала заявку на проведение государственной сертификации, необходимой для того, чтобы получить добро на размещение секретной военной информации на серверах компании. Но когда три месяца спустя Мэттис обсуждал эти технологии в штаб-квартире Google, он прекрасно понимал, что их взаимоотношения требуют особой деликатности.

Мэттис сказал, что уже видел могущество технологий компании на поле боя. В частности, противники Америки использовали Google Earth, интерактивную цифровую карту земного шара, сшитую из спутниковых снимков, для идентификации артиллерийских целей. Но он хотел бы, чтобы инициатива в этой игре перешла к США. Запустив проект Maven, министерство обороны хочет разработать такую систему ИИ, которая могла бы не только читать спутниковые снимки, но и анализировать видео, снимаемые беспилотниками ближе к полю боя. Мэттис похвалил Google за ее «передовые технологии», а также за «репутацию ответственной корпорации». По его словам, это одна из причин, почему он здесь. Его тоже беспокоят вопросы этичного использования ИИ. Он сказал, что компания должна продолжать внушать министерству обороны «чувство неловкости» – и заставить военных пересмотреть свои традиционные подходы. «Ваши идеи приветствуются министерством», – сказал он.

Сидевший напротив Мэттиса Пичай сказал, что компания Google много думает об этичном применении ИИ. По его словам, подобные технологии все чаще используются во зло, и поэтому силам добра важно оставаться впереди. Тогда Мэттис спросил, не может ли Google как-то программным путем внедрить в сами эти системы какие-то морально-этические ограничители – но «гуглеры» прекрасно понимали нереалистичность этого варианта. Джаннандреа, который курировал всю работу Google по ИИ, подчеркнул, что качество этих систем в конечном счете зависит от качества используемых для обучения данных. Но Кент Уокер, главный юрисконсульт Google, высказался иначе. Эти технологии, сказал он, обладают огромным потенциалом в плане спасения жизней.

К концу сентября, примерно через месяц после визита Мэттиса в штаб-квартиру Google, компания подписала трехлетний контракт о своем участии в проекте Maven. Стоимость контракта составляла от 25 до 30 миллионов долларов, причем первые 15 миллионов должны быть освоены компанией в течение восемнадцати месяцев. Для Google это была небольшая сумма, и ее предстояло разделить с другими подрядчиками, но компания этим забрасывала удочку, чтобы в перспективе получить что-то большее. В том же месяце Пентагон пригласил американские компании принять участие в тендере на JEDI (Joint Enterprise Defense Infrastructure), десятилетний контракт на 10 миллиардов долларов на поставку министерству обороны облачных вычислительных услуг, необходимых для запуска его основных технологий. Вопрос заключался в том, стоило ли Google предавать гласности свое участие в проекте Maven, в то время как компания пыталась заполучить JEDI, а в будущем, возможно, и другие правительственные контракты.