В 601 году барометр истории опять пошел на «грозу». Фараон наконец собрался с силами для контрудара и дал бой армии Навуходоносора. Битва была жестокой, но никто не одержал окончательной победы. Халдеи ушли в Вавилон, где Навуходоносор начал полную реорганизацию армии. Иоаким же только этого и ждал, чтобы вернуться под крыло своего старого союзника Нехо. Навуходоносор не мог немедленно покарать иудейского царя, но по его приказу военные действия против Иудеи начали халдейские гарнизоны и подчиненные им союзные племена. Осенью 598 года внезапно скончался Иоаким, и престол перешел к его сыну Ехонии.
Семнадцатилетний царь стал править совместно со своей матерью Нехуштой и пытался следовать линии отца. Иеремия был очень низкого мнения об этом неудачливом царе; от настроений Иосии он был еще дальше, чем Иоаким, при нем в Иерусалиме безнаказанно совершались обряды в честь бога Таммуза и приносились жертвы «Царице неба».
В январе 597 года регулярные войска халдеев стояли уже под Иерусалимом, и в стан прибыл сам Навуходоносор. Весть об этом привела иудейский двор в замешательство. Иеремия настойчиво призывал царя и его мать торопиться просить мира. Видимо, и сам Ехония понял, что пришла пора сдаться на милость победителя. Осаждающие ждали несколько недель; они были хорошо осведомлены о развернувшейся в городе борьбе и надеялись на бескровную капитуляцию.
16 марта ворота Иерусалима открылись, и из них вышла процессия, состоявшая из царя, царицы и сановников Иудеи. Одетые в траурные одеяния, они вступили в халдейский лагерь. Навуходоносор принял их сурово, как изменников, но никого не казнил. Ехония был приговорен к отправке в качестве заложника в Вавилон. Вместе с ним должны были уехать его мать, жены и царедворцы. Иудейское царство было пощажено, однако во избежаний нового мятежа царь велел переселить в Вавилонию большую часть военачальников, гарнизон города, строителей, оружейных мастеров, а также почти всю знать и богатых людей. Таким способом Навуходоносор надеялся искоренить проегипетскую партию. 22 апреля караван переселенцев увели на север. В счет контрибуции Навуходоносор конфисковал храмовую казну и забрал из святилища драгоценности.
Формально царем Иудеи продолжал считаться Ехония, но править в Иерусалиме был поставлен третий сын Иосии, Маттания, который получил имя
Через два года после ухода халдейских войск царь Финикии и некоторые палестинские князья прислали к Седекии послов, чтобы убедить его отложиться от Навуходоносора. Робкий царь страшился рискованного шага и некоторое время противился уговорам. Более религиозный, чем братья, Седекия прислушивался к пророкам. Но и среди них не было единодушия: Анания поддерживал идею восстания, Иеремия видел в ней гибель.
Во время переговоров и совещаний Иеремия вышел на улицы города, неся на плечах ярмо вола и громогласно объявляя, что Бог отдал народы под власть Навуходоносора, а поэтому восстание против него бессмысленно и преступно. «Не слушайте своих пророков, — говорил Иеремия послам, — своих чародеев, сновидцев, гадателей по облакам и волхвов, которые уверяют вас, что вы не будете подчинены царю Вавилонскому, ибо они предсказывают вам ложь». Но когда Иеремия с ярмом пришел в храм, к нему приблизился пророк Анания и, сломав ярмо, заявил, что так будет сломлено иго Навуходоносора. «Да исполнит Ягве слова твои», — ответил ему Иеремия, однако тут же добавил, что только время их рассудит.
С полной безнадежностью смотрел теперь на вождей нации, готовясь уже только к плачевному финалу. Все чаще стал он обращаться мыслью к изгнанникам, уведенным в Вавилон. Ведь там их было около десяти тысяч: священников и пророков, писцов и книжников, военачальников и искусных мастеров — самый цвет Иудеи. Быть может, вдали от родной земли они призадумаются над тем, что случилось; разлука и изгнание смогут стать для них школой покаяния и истинного «богопознания». Плен поможет очистить их души, отвратить навсегда от язычества и привьет любовь к Закону Господню, которым они пренебрегали.
Эти надежды на духовное возрождение переселенцев Иеремия запечатлел в притче о смоквах.