Опасения Канариса, связанные с удавшимся Муссолини захватом Абиссинии, слишком скоро оправдались. Ввод немецких войск в Рейнскую демилитаризованную зону был ответом Гитлера на соглашательскую политику западных держав в отношении Италии. За несколько дней до этих событий Канарис разговаривал с советником посольства Эрихом Кордтом, с которым не был знаком близко, но знал о его неприязни к существующему в Германии режиму. Не упоминая прямо предстоящее вступление войск в Рейнскую область, он без обиняков спросил советника: «Как вы полагаете, Франция объявит всеобщую мобилизацию?» Не выдавая ничем своего удивления этим вопросом, Кордт ответил, что ему самому не ясно, решатся ли западные державы на энергичное противодействие или же позволят ввести себя в заблуждение миролюбивыми заявлениями, которыми Гитлер намерен сопровождать свое вторжение в демилитаризованную зону. Канарис дал понять, что и он не очень-то верит в решительные контрмеры Англии и Франции. Свое мнение Канарис изложил осторожно и тщательно выбирая слова, но в такой манере, что у его собеседника не осталось никаких сомнений: перед ним противник не только задуманного Гитлером военного выступления, но и всей системы нацистского правления.
Если Канарис был против занятия Рейнской зоны в нарушение Локарнских договоров, то это вовсе не означает, что он также не желал скорейшего восстановления полного суверенитета Германии. Просто Канарис не мог согласиться с гитлеровскими методами одностороннего отказа от договоренностей, незадолго до этого официально признанных нацистским правительством как безусловно обязывающие. По его глубокому убеждению, немногие оставшиеся условия Версальского мирного договора, урезывающие права Германии, можно было бы устранить путем переговоров. Канарис не без основания опасался, что каждый новый успех силовой политики Гитлера будет подталкивать его на новые нарушения международных соглашений. Поступающий в абвер со всех концов света обширный разведывательный материал свидетельствовал о том, что так называемые внешнеполитические успехи Гитлера дорого обходятся Германии, теряющей доверие мирового сообщества и возбуждающей ненависть к немцам в странах, начавших избавляться от настроений Первой мировой войны.
В этот период Канарис все яснее сознает: сопротивление нацистской системе – его нравственный долг. Но еще не пришло время для того, чтобы эти размышления вылились в конкретную форму заговора с целью свержения Гитлера. Еще во главе вермахта стояли такие люди, как Фрич и Бек, через голову которых действовать Канарис чувствовал себя не вправе. Пока речь шла лишь об отдельных стычках с пороками существующего режима. Канарис был в курсе неустанной борьбы Остера с СС и гестапо и исподволь в ней участвовал. Особую активность он проявил в гуманитарной области. В эти годы многие сотни людей, большей частью евреи, преследуемые партийными организациями и гестапо, смогли, благодаря шефу абвера, благополучно миновать границы Третьего рейха и выехать за рубеж.
Серьезную угрозу Канарис видел и в том, с какой легкостью попадались на удочку нацистской пропаганды ответственные государственные мужи других стран. Стараясь им помочь узнать истинное положение вещей, он приглашал зарубежных деятелей, на чью наблюдательность и благоразумие рассчитывал, на различные мероприятия – Олимпийские игры 1936 г., съезды НСДАП, – давая им возможность хорошенько оглядеться в Германии в надежде, что они, невзирая на пропагандистскую трескотню, составят себе верную картину о деспотизме и дилетантстве нацизма. Больших успехов в этом плане он не достиг.
В 1936 г. произошло одно важное событие с далеко идущими последствиями. В Испании в ответ на убийство полицией правого политика Кальво Сотело против правительства Народного фронта взбунтовались военные. Так началась гражданская война, продолжавшаяся три года и закончившаяся победой армий генерала Франсиско Франко. В первый период войны удача сопутствовала правительственным войскам, которые, вне всякого сомнения, жестоко подавили бы мятеж, если бы не помощь Франко со стороны Италии и Германии. Как известно, существенную роль при оказании немецкой помощи испанским фалангистам сыграл Канарис. Это обстоятельство послужило причиной многочисленных нападок и обвинений в его адрес. И в самом деле, на первый взгляд кажется необъяснимым противоречием тот факт, что Канарис, боровшийся с авторитарным режимом нацистов в Германии, не только безоговорочно выполняет приказы Гитлера и вышестоящего начальства, но ревностно, по внутреннему убеждению, поддерживает испанскую разновидность фашизма.