В том же 1076 г. счастье совсем изменило королю. Во время неудачного похода в Саксонию его северогерманские враги соединились и вступили в союз с папой, изображавшим теперь большую умеренность и пользовавшимся выгодами своего положения. Оттон Нордхаймский, долгое время бывший в доверии у короля, опять перешел на противную сторону. Герцоги Швабский, Баварский и Каринтийский вместе со многими другими князьями и епископами собрались в Ульме и назначили на октябрь того же года общий княжеский съезд в Трибуре с целью восстановить спокойствие в государстве и церкви. Это собрание было достаточно многолюдным; на нем преобладали противники короля, старательно демонстрировавшие свою приверженность папству. Как было уже давно известно, они добивались низложения короля. Это нелегко было выполнить: король с войском находился на другом, левом берегу Рейна. Но он пал духом и готов был пойти на все, что принесло бы спокойствие в будущем. Однако резкое решение собрания было недостаточным, потому что помимо акта о низложении надо было выбрать другого короля, а на этот счет у собравшихся не было единого мнения. Притом, хотя очень немногие колебались перед полуизменой, на ее полное совершение у них не хватало духа. Колебался и сам папа. Как ни предан он был идее всемогущества церкви, однако не был глух и к понятию о праве, и ему представлялся еще нерешенным вопрос, возможно ли осуществить какие-либо великие идеи с помощью этих князей и епископов, руководимых одной личной выгодой, да еще при короле, избранном ими, следовательно, бессильном.
Таким образом, все закончилось тем, что посредничество принял на себя клюнийский аббат Гуго, бывший восприемник короля от купели. Король должен был испросить у папы снятие отлучения, на что ему давался срок до 22 февраля следующего года. Если ему это не удастся, он лишится престола навсегда. 2 февраля должен был состояться княжеский съезд в Аугсбурге, на который папа приглашался для произнесения своего приговора. Смысл такого постановления заключался в подчинении германской короны третейскому суду римского первосвященника. Любая самостоятельная правительственная мера была запрещена королю, как и возложение на себя всех внешних признаков королевского сана до тех пор, пока с него не будет снято отлучение. Именно этот момент был наиболее унизительным для Германии. Добровольно, без всякой нужды, из побуждений, не вполне чистых ни у кого, а у многих и очень нечистых, княжеский съезд избрал папу судьей и вершителем германских судеб. Князья желали низложения короля, но не осмелились, а Григорий не мог рассчитывать на то, что было преподнесено ему духовной и мирской аристократией. Краеугольный камень его теории, по которой светская власть должна была следовать из духовной, сохранявшей за собой право давать и отнимать по своему усмотрению, — этот камень был твердо заложен в Германии на Аугсбургском съезде. Молчаливо подразумевалось при этом, что король не получит папского прощения до нового съезда в Аугсбурге. Удалясь в Шпейер, Генрих видел, что его недоверчиво сторожат. Григорий со своей стороны поспешил уехать, уже насладясь унижением многих приверженцев изгнанного короля, которые спешили через Альпы, чтобы лично от него получить отпущение грехов. В высокомерном послании, какими были все официальные извещения этого папы, проникнутые не то горделивым смирением, не то смиренным высокомерием, что унаследовало от него и позднейшее папство, Григорий возвещал о своем скором прибытии и был уже около Мантуи, когда ему стало известно, что Генрих направляется в Италию. Папа подумал, что он является с враждебными намерениями, хочет вынудить у него разрешение силой, и имел право предполагать это, потому что резко отклонил желание короля лично прибыть в Рим за прощением. В страхе папа бежал в замок Каноссу — самое надежное укрепление, принадлежавшее его вернейшей стороннице, маркграфине Матильде. Во всей Ломбардии, где Григория смертельно ненавидели, все были убеждены, что Генрих идет с целью наказать папу оружием за захват римского престола.