Иерусалим стал непригодным для жизни, а местность к югу от города слишком пострадала, чтобы на ней селиться. Самые южные земли бывшего Иудейского царства были захвачены эдомитами, заложившими основу будущего царства Идумеи. Большинство иудеев, избежавших переселения в Вавилон, либо ушли в Самарию, либо поселились к северу от Иерусалима, в Мицпе (Массифе), Гивоне (Гаваоне) или Вефиле. Наместником в Иудее вавилонский царь назначил Гдалию (Годолию), внука придворного писца царя Иосии. Годолия, избрав местом своего пребывания Мицпу, старался наладить некое подобие нормальной жизни. Вавилоняне также пытались восстанавливать разоренную страну, для чего разделили земли выселенных между теми, кто остался, – в прошлом они составляли беднейшую и наиболее притесняемую часть населения. Однако эта попытка заручиться лояльностью жителей бывшего Иудейского царства провалилась. В 582 г. до н. э. в Иудею вернулись несколько бывших военачальников иудейской армии, бежавших в Заиорданье. Их глава, Измаил, потомок Давида, убил Гдалию и многих его приближенных. Однако переворот не удался: народ не поддержал Измаила, и тот бежал в Аммон. Большое количество политически активных жителей Иудеи, спасаясь от гнева вавилонян, укрылось в Египте. О последующих 50 годах в судьбе Иерусалима и Иудеи практически ничего не известно.
Те, кто подвергся переселению, хотя и тяжело переживали изгнание из родных мест, оказались в лучшем положении. В Вавилонии они не подвергались гонениям, а царь Иехония жил при вавилонском дворе и сохранил царский титул (4 Цар 25:27–30). Для поселения им определили места из числа самых привлекательных и важных в стране – в самом Вавилоне и вблизи него, по берегам «великого канала» Кебар (Ховар), по которому в город поступала вода из Евфрата. Возможно, вавилонские названия этих мест были переведены на древнееврейский язык: например, в книге пророка Иезекииля упоминается поселение Тель-Авив (Тел-Авив) – «Холм весны». Изгнанники последовали совету Иеремии и успешно интегрировались в вавилонское общество. Им разрешалось поддерживать связи друг с другом, покупать землю, заниматься ремеслами и торговать. Многие быстро сделались преуспевающими торговцами, некоторые получили должности при дворе. Возможно, к иудеям примкнули потомки израильтян, высланных в Вавилонию в 722 г. до н. э., поскольку некоторое переселенцы, упоминаемые в Библии, принадлежали к северным коленам (Езд 2).
Блистательный Вавилон, намного превосходивший изощренностью жизни и национальной пестротой все города, знакомые изгнанникам, изумлял их и одновременно побуждал к сопротивлению. Вокруг 55 вавилонских храмов существовал религиозный мир, куда более сложный, чем древнее язычество Ханаана. Правда, некоторые мифы должны были казаться евреям на удивление знакомыми. Мардук одержал верх над Яхве, и теперь, оказавшись на его земле, многие иудеи сочли вполне естественным принять местные верования. Некоторые из них, по всей вероятности, поклонялись, наряду с Яхве, вавилонским божествам и давали своим детям такие имена как
Девтерономисты, наверное, могли в каком-то смысле торжествовать: трагедия 586 г. до н. э. подтвердила их правоту. Теперь, когда старая ханаанская мифология, питавшая веру в нерушимость Сиона, оказалась обманом, народу следовало обратиться к Закону Моисея и Завету, который Бог заключил с сынами Израиля задолго до того, как они впервые услышали о Иерусалиме. Закон поможет изгнанникам сохранить себя, не раствориться в «плавильном котле» Вавилона. В годы вавилонского пленения были кодифицированы правила и нормы поведения, отличавшие евреев от соседей-язычников. Евреи обрезали младенцев мужского пола, воздерживались от работы по субботам, соблюдали особые правила в отношении еды – все это выделяло их как народ Завета. Они должны были стать «священным» народом, таким же особенным, как и их Бог.