Большую часть территории, как уже сказано выше, окружают крепостные стены, сооруженные при понтификах Льве IV (847–855 гг.), Павле III (1534–1549 гг.), Пие IV (1559–1565 гг.) и Урбане VIII (1623–1644 гг.).
Ватиканский холм не принадлежит к числу знаменитых семи возвышенностей, на которых был построен Древний Рим. В античные времена территория нынешнего Ватикана считалась священной и не заселялась. Некоторые древние авторы, например, Авл Геллий, считали, что название холма связано с древним римским божеством Ватиканом. Другие авторы связывали название холма с латинским глаголом vaticinor (предсказывать). А подобное происхождение топонима объясняют тем, что на холме находились святилища некоторых этрусских божеств.
Плиний Старший писал, что на Ватиканском холме рос дуб, самый старый на территории Рима. Этому каменному дубу приписывали магические свойства. На могучем стволе дерева когда-то даже имелась бронзовая пластина с надписью на этрусском языке. На рубеже нашей эры Агриппина Старшая (17 г. до н. э. – 33 г. н. э.), жена знаменитого полководца Германика и мать императора Калигулы, распорядилась дренировать холм и разбить на нем сады. Калигула построил на Ватиканском холме цирк, впоследствии расширенный Нероном (цирк Нерона). Он же приказал доставить сюда из египетского Гелиополиса обелиск, который в наши дни гордо возвышается посреди площади Св. Петра. После пожара Рима в 64 г. н. э. Монс Ватиканус стал местом мученической смерти многих христиан. Согласно древней традиции, именно на этом холме был распят святой апостол Петр. С той поры на холме устроили кладбище со множеством монументов и мавзолеев, жертвенников языческих богов различных политеистических религий.
Остатки этого гигантского некрополя вскрыты археологическими раскопками, которые велись в 1939–1941 гг. После официального признания христианства императором Константином Великим на Ватиканском холме построили первую христианскую базилику в Риме (326 г.). Формально ее построили на месте могилы св. Петра, однако из ранних христианских источников известно, что св. апостол был похоронен в общей могиле (из боязни осквернения последнего земного пристанища апостола). Так Ватиканский холм становится одним из центральных сакральных мест христиан.
В начале VI в. по соседству с базиликой папа Симмах (498–514 гг.) приказал построить дворец, и с тех пор Монс Ватиканус начинает быстро осваиваться церковниками. После падения Западной Римской империи Ватикан становится центром клерикального Папского государства, осуществлявшего политический контроль над значительной частью Апеннинского полуострова. Собственно говоря, римские понтифики жили чаще всего не в пределах Ватикана, а в других местах Рима: замке Святого Ангела, Латеранском, а в последние столетия – Квиринальском дворцах.
Папское государство просуществовало до 20 сентября 1870 г., когда Рим был занят войсками Итальянского королевства. Собственность понтификов за пределами Ватиканской стены, включая Квиринальский дворец, была конфискована, и Пия IX, главу всех католиков мира (1846–1878 гг.), стали называть «Ватиканским пленником». Понтифики отказались признать правомерность захвата Вечного города королевскими войсками.
Так возник «Римский вопрос», урегулированный Латеранскими соглашениями, заключенными 11 февраля 1929 г. между Итальянским королевством и Святым престолом. Соглашения подписали итальянский премьер-министр Бенито Муссолини и ватиканский государственный секретарь Пьетро Гаспарри. Соглашения состояли из трех документов: 1) Трактата, которым признавалась «независимость и суверенность Святого престола» и провозглашалось создание Государства-города Ватикана; 2) Конкордата, определявшего структуру светских и религиозных отношений между церковью и итальянским государством; 3) Финансовой конвенции. Итальянский сенат после бурных дебатов ратифицировал эти соглашения 25 мая того же года. Интересно, что среди шести сенаторов, проголосовавших против соглашений, оказался знаменитый философ Бенедетто Кроче.
Учредительным документом церковного государства считается трактат, определяющий в том числе и границы Ватикана: в пределах Леонинской стены и, сверх того, площади Св. Петра. Латеранские соглашения вступили в силу в полдень 7 июня 1929 г. Этот момент считается официальной датой рождения Ватиканского государства.
Еще до рождения церковного государства понтифик заключил соглашения об отношениях религиозных и светских властей с Латвией (1922 г.), Баварией (1924 г.), Польшей (1925 г.), Литвой и Румынией (оба – в 1927 г.).