В мае 1873 г. Вильгельм приехал с ответным визитом в Петербург в сопровождении канцлера и начальника Генерального штаба. Во время визита была подписана русско-германская военная конвенция. В ней говорилось, что если какая-либо европейская держава нападет на одну из договаривающихся сторон, то последняя в возможно кратчайший срок получит помощь в виде 200 тысячной армии. При подписании конвенции Бисмарк заявил русским, что она будет иметь силу только в случае присоединения к ней Австро-Венгрии. Спустя месяц Александр вместе с Горчаковым посетил Вену. Это была первая после Крымской войны поездка царя в австрийскую столицу. Она означала, что российский монарх предавал забвению проявленную тогда «неблагодарность» Австрии. Александр и Горчаков попытались склонить Франца Иосифа присоединиться к русско-германской конвенции. Австрийцы предпочли менее обязывающее политическое соглашение, которое и было подписано 6 июня 1873 г. в Шенбурне, под Веной. Документ имел форму договора между монархами: оба они обещали друг другу в случае возможных разногласий договариваться с целью не допустить разъединения двух стран; в случае угрозы нападения третьей державой, монархи обязывались условиться о совместной линии поведения; если бы в результате достигнутой договоренности требовались военные действия, характер их определила бы военная конвенция, которую в таком случае еще надлежало заключить. 23 октября того же года по приезде в Вену Вильгельм присоединился к Шенбурнскому соглашению. Оно и получило громкое, но неточное название Союз трех императоров – на деле это был не союзный договор, а скорее консультативный пакт.
Для берлинского кабинета главной целью достигнутого соглашения оставалась изоляция Франции. Но как раз в Петербурге не хотели, чтобы оно приобретало антифранцузскую направленность. Российское правительство давало понять, что если на Францию нападут, она получит защиту. Бисмарк считал ресурсы и стойкость России неисчерпаемыми, а войну с ней, тем более одновременно с Францией, катастрофичной для Германии. При этом он не переставал доказывать стратегам из Генерального штаба, разрабатывавшим различные варианты военных планов, что в России нет объектов, овладением которыми германская армия могла бы завершить войну. Бисмарк надеялся, что Россия, занятая восточными делами, позволит Германии беспрепятственно распоряжаться в Европе. Первым серьезным испытанием Союза трех императоров стала военная тревога 1875 г.
В Берлине были неприятно удивлены, что Франция быстро оправлялась от нанесенного ей поражения. За два года она завершила выплату огромной контрибуции, и германские оккупационные войска должны были покинуть французскую территорию. В немецкой прессе развернулась яростная кампания против Франции, которая, якобы, намеревалась напасть на Германию. За дружественный нейтралитет во время войны с Францией Бисмарк предложил российскому правительству содействие на Востоке. Но Александр II не поддался на эту уловку. Будучи проездом с германской столице, царь недвусмысленно высказался против воинственных намерений в отношении Франции. Бисмарк ретировался, взвалив всю ответственность на генералов, «ничего не смыслящих в политике». Военная тревога 1875 г. охладила русско-германские отношения. До разрыва Союза трех императоров дело не дошло, партнеры еще сохраняли заинтересованность в его существовании. Однако начавшийся вскоре восточный кризис обнаружил всю глубину противоречий между ними. Враждебность к России австрийской политики во время русско-турецкой войны 1877–1878 гг. и Берлинского конгресса 1878 г. была очевидной. Австро-Венгрия совместно с Англией сделали все, чтобы свести на нет успехи русского оружия и ослабить позиции России на Балканах. Бисмарк на Берлинском конгрессе оказал поддержку антирусскому блоку. Союз трех императоров распался.