Хотя акт об отречении и не был безупречен с юридической точки зрения (до сих пор ведутся дебаты по вопросу, имел ли император право единолично принимать решение об упразднении империи), в Германии уже не было политической воли поддерживать существование имперской организации. Священная Римская империя перестала существовать.
12 июля 1806 г. Бавария, Вюртемберг, Баден, Гессен-Дармштадт, Нассау (обе линии), Берг, эрцканцлер Дальберг, Дармштадт, Клеве-Берг, Гогенцоллерн, Лихтенштейн подписали в Париже договор с Наполеоном.
Эти государства заявили об образовании Рейнского союза под покровительством Наполеона, а августа объявили о своем выходе из состава Священной Римской империи. Перед подписанием Наполеон поставил перед участниками 24-часовой ультиматум, при котором в случае неподписания французские войска должны были быть введены в южно- и западногерманские земли.
Заключение Рейнского союза и «добило» Франца II: он отрекся от престола Священной Римской империи германской нации и объявил об ее упразднении спустя несколько дней после заключения договора о Рейнском союзе.
Образованию союза очень помогал бывший эрцканцлер Священной империи, архиепископ Майнцский, Карл фон Дальберг. За это он получил город Франкфурт-на-Майне и звание князя-примаса. Он был назначен наместником Наполеона в Рейнском союзе.
Это был наступательный и оборонительный союз, заключенный князьями с Францией на вечные времена. Внутри союза отдельные князья были самостоятельны. Самостоятельные правители получили во власть других правителей, поменьше. Рейнский союз сделался коллективным вассалом Наполеона, основой его политики стала безусловная покорность Франции во внешней политике и военных делах. Союз обязался держать для него наготове войско в 63 000 человек и участвовать вместе с Францией во всех ее войнах. Вот во внутренних шло увеличение власти государей над подданными. Во внутренних делах всех княжеств Наполеон ограничился введением в Французского гражданского кодекса (Кодекса Наполеона), и проведением стратегических дорог.
Протектором этого Рейнского союза был император Наполеон, утверждавший новых членов и распоряжавшийся вооружением войск. Для общего управления союза было назначено собрание во Франкфурте, одно королевское и одно княжеское. Чтобы уничтожить само воспоминание о Священной Римской империи, прежнее место собраний имперского сейма, город Регенсбург, в 1810 г. был присоединен к новому баварскому королевству.
По договору Рейнский союз должен был иметь общие конституционные органы (как Священная Римская империя), но это не получилось: более крупные члены союза очень уж хотели самостоятельности. Бундестаг, организованный председательствующим князем Карлом Теодором фон Дальбергом, так и не собрался: в нем отказывались участвовать Вюртемберг и Бавария.
Вскоре участники Рейнского союза начали приватизацию владений имперских рыцарей и мелких графств. В результате число всех немецких государственных образований сократилось с двухсот до сорока двух. Из 51 вольного города осталось 5, остальные вошли в состав других государств. Число жителей Рейнского союза достигало 8 миллионов на 2400 кв. миль.
До 1808 г. к Рейнскому союзу присоединились еще 23 немецких государства. Уже вследствие поражения Пруссии против Франции в битве при Йене в его состав вошли многие центрально- и северонемецкие мелкие государства.
В 1808 г. Рейнский союз достиг своих наибольших размеров. Он охватывал четыре королевства, пять великих герцогств, тринадцать герцогств, семнадцать княжеств, а также независимые ганзейские города Гамбург, Любек и Бремен. Последним к Рейнскому союзу присоединился князь Ангальт-Дессау и получил за это титул герцога. Вообще Наполеон не жалел титулов: Баден, Гессен-Дармштадт, гергогства Клеве и Берг стали великими герцогствами, а Вюртемберг и Бавария — королевствами. Многие крупные государства Германии сделались еще крупнее.
В 1810 г. большие части Северной Германии, включающие устья Эмса, Везера и Эльбы, были аннексированы непосредственно наполеоновской Францией, чтобы лучше контролировать континентальную блокаду Англии.
Вне Рейнского союза, нового издания Германии, остались лишь Пруссия, Австрия, принадлежавшее Дании герцогство Гольштейн и шведская Померания.
Создав дружественный себе Рейнский союз, Наполеон создал значительное буферное пространство на северо-востоке Французской империи, между ней и Австрией и Пруссией. Рейнский союз был в то же время орудием господства и завоевательной политики Наполеона в Германии.
Организация армии союза и укрепление границ были в руках французских офицеров и инженеров. Немцы только поставляли солдат. Договора по делам союза заключались в Париже. Имперские законы, суд и сейм были упразднены, равно как и старинные конституционные формы, стеснявшие абсолютизм (например, вюртемберг-ские земские чины).