Его значение в жизни еврейского народа трудно было переоценить. Тем ужаснее стало его разрушение. «В пятый месяц, в седьмой день месяца, то есть в девятнадцатый год Навуходоносора, царя Вавилонского, пришел Навузардан, начальник телохранителей, слуга царя Вавилонского, в Иерусалим и сжег Дом Господень и дом царя, и все домы в Иерусалиме, и все домы большие сжег огнем, и стены вокруг Иерусалима разрушило войско Халдейское, бывшее у начальника телохранителей» (4-я Книга Царств, 25,8). Так сбылось пророчество о том, что накажет Бог народ еврейский за порочность и беззаконие. Наказание явилось в лице Вавилонского царя Навуходоносора II, который на 19-м году своего царствования, то есть в 587 году до н.э., захватил Иерусалим и сжег Храм Соломона. Большинство жителей Иерусалима были убиты, оставшиеся взяты в плен и угнаны в рабство в Вавилонское царство. Долгие годы длилось вавилонское рабство еврейского народа, посланное им Богом во искупление грехов, в течение которых они были отлучены от Земли Обетованной и от руин священного Храма. Но в годы вавилонского плена, в котором находился и пророк Иезекииль, было ему видение от Бога, в котором он видел в деталях новый Храм, стоящий на том же месте, что и Храм Соломона. И лишь в 541 году до н.э. с разрешения персидского царя Кира, покорившего Вавилонию, в Иерусалим начали возвращаться первые переселенцы, ведомые старейшиной Заровавелем. В 515 году спустя 15 лет после закладки Заровавелем Храма он был, наконец, возведен.
Иерусалимский Храм, или, как его еще называли, Храм Соломона, был устроен по образцу Скинии. Он был четырехугольной формы, длинные его стороны простирались с востока на запад, а вход был обращен на восток.
Храм был поделен на четыре части: обширный внешний двор, окруженный колоннадой, внутренний двор, где совершались жертвоприношения, и Чертог, разделенный надвое. Во втором отделении Чертога — Давире, занимавшем одну треть помещения, располагался Ковчег Завета, доступ к которому, как и в Скинии, сооруженной Моисеем, разрешался только первосвященнику и лишь раз в году. В Ковчеге, перенесенном из Синайской пустыни, хранились только скрижали Завета, но ни чаши с манной, ни жезла Ааронова там уже не было, вероятно, с того времени, когда Ковчег был в плену у филистимлян.
К Чертогу, располагавшемуся в центре двора, вели трое внешних ворот, к каждым из которых шли 7 ступеней. Далее находилось трое внутренних ворот, с восьмью ступенями, а весь внутренний двор располагался на приподнятой платформе. И внешние, и внутренние ворота копировали друг друга и были огромными — высотой с 10-этажное здание.
Весь Храм, сооруженный из камня, был обшит кипарисовыми и кедровыми досками. На стенах Храма были резные изображения Херувимов, пальмовых деревьев и распускающихся цветов. Внутренний двор был построен из трех рядов обтесанного камня и из ряда кедровых брусьев.
В то время евреи, египтяне, вавилоняне и жители Месопотамии использовали единицу измерения, которая называлась локоть. Один царский еврейский локоть равнялся 52,7 сантиметра. У Иезекииля в 1-й Книге Царств присутствует свидетельство, что Храм был 500 локтей в длину и 500 — в ширину.
Второй Храм Иерусалимский не был столь внушителен и великолепен, как Первый. Нельзя не сказать и о том, что во Втором Храме уже не было Ковчега Завета, по легенде, он был увезен в Вавилон после разрушения Храма, а на его месте находилась лишь мраморная плита. В долгой истории Второго Иерусалимского Храма было всякое. В 175—163 годах до н.э. во времена сирийского царя Антиоха Епифана IV, под чьим управлением в то время находилась Иудея, Храм был осквернен и служба в нем приостановилась вплоть до 167 года до н.э., но в 164 году до н.э. после восстания Маккавеев он был очищен от скверны, обновлен, а церемония Жертвоприношения возобновлена. С этих пор был установлен еврейский праздник Ханука, посвященный очищению Храма.
Своего наивысшего расцвета Второй Храм достиг во времена правления царя Ирода Великого, в конце I века до н.э. он был практически полностью перестроен, так что от прежнего Храма, возведенного Заровавелем, не осталось почти ничего. Перестроенный Храм возвышался на белом мраморном цоколе с лестницей перед главным входом. В Святилище располагались светильник, стол для Хлебов Предложения и Жертвенник.
Роковую роль в истории Храма сыграла Иудейская война 66—73 годов, которая смирила гордыню непокорных Риму иудеев. 70-й стал годом падения Иерусалима и годом гибели Второго Храма Иерусалимского. 10 августа, в тот же самый день, когда был разрушен Храм Соломона, запылал и Второй Храм. Он горел в течение 10 дней, а к сентябрю весь Иерусалим был превращен в руины, а Храмовая Гора была распахана. Было пленено почти 100 000 жителей, а погибших от меча, голода и всего плененных за время войны, по свидетельству Иосифа Флавия, насчитывалось около 1 миллиона 100 тысяч. Менора и алтарь из разрушенного Храма по приказу Тита были отправлены в Рим. Разрушение Иерусалима и сожжение Храма положило начало рассеянию евреев по всему миру.