Переправившись через замерзшую Вислу, крестоносцы столкнулись с пруссами на берегу реки Сиргуна около Христбурга. На захваченной территории тевтонцы построили крепости Кульмесее и Рехден, что позволило им контролировать все земли Померании. В последующие годы они взялись за Помезанию, которую не без труда усмирили; здесь была построена в 1237 г. крепость Эльбинг (Эльблонг) на острове, в устье реки, известной под тем же названием. Разрушенная в 1239 г. помезианцами крепость была построена заново, но немного севернее, а именно в том месте, где Эльбинг соединяется с озером Драузен; колонисты, прибывшие из Любека и Мейдена, участвовали в строительстве города, защищенного новой крепостью, хартией 1246 г. городу были дарованы привилегии, заимствованные из Любекского права.
Когда в 1239 г. умер Герман фон Зальца, тевтонцы уже контролировали весь Кульмерланд, а также Поморье и Помезанию. По мере того как завоевывались прусские провинции, орден раздавал часть земель крестоносцам, те, в свою очередь, приглашали из Германии колонистов и таким образом осуществляли заселение страны и ее «германизацию». Завоевание прусских земель продолжалось и при великих магистрах — Конраде Тюрингском и Герхарде фон Мальберге. Ничего не менялось. Подчинив местного прусского князька и обратив его в христианство, что, в свою очередь, приводило к обращению его подданных, строили в центре завоеванной территории крепость, вокруг которой в скором времени расстраивался город. Начиная с 1239 г. были покорены земли Вармии, Натангии и Бартонии; там были возведены крепости Крецбург в Натангии, Хейльцьберг и Браунсберг в Вармии, Бартенштайн, Россель и Вейссенбург в Бартонии. Заняв прусскую крепость, расположенную на северо-востоке Эльбинга, что на полуострове, соединяющем Фриш-Хальф с Балтикой, тевтонцы построили новую крепость, которую назвали Балга. К этому времени они уже контролировали половину Пруссии.
Севернее, в Ливонии, развитие событии привело к тому, что Тевтонский орден вынужден был вмешаться. Епископ Риги страдал от непрерывных набегов со стороны литовских племен, не обращенных до сей поры в христианство, которые угрожали юго-востоку его владений. Несмотря на конфликты, вызванные личными интересами, епископ Риги все же мог рассчитывать на поддержку Ордена меченосцев в борьбе против литовцев. 22 сентября 1236 г. рыцари-меченосцы потерпели крупное поражение в битве на Сольских болотах (битве при Шауляе), тогда погиб великий магистр их ордена. Меченосцы обратились за помощью к тевтонским рыцарям. В свое время великий магистр обратился к великому магистру Тевтонского ордена Герману фон Зальца с предложением объединить оба ордена в один, но фон Зальца ответил отказом. После смерти своего магистра меченосцы обратились к папе. Григорий IX отнесся с пониманием к просьбе меченосцев и передал делегатам ордена две папские буллы от 12 мая 1237 г., в которых значилось, что Орден меченосцев сливается с Тевтонским орденом. Имущество меченосцев переходило под контроль Тевтонского ордена. Единственная уступка, с учетом особенностей Ордена меченосцев, отраженная в булле
В это время нависла новая угроза над окраинами христианской Европы — нашествие зимой 1236-1237 гг. татаро-монголов, которых там называли просто татарами. Последние, разорив степи Южной России, 6 декабря 1240 г. захватили Киев и готовились к вторжению на Запад. Сообщение о татарском нашествии особых эмоций на Западе не вызвало. Только Фридрих II приказал своему сыну приостановить военную кампанию, которую тот вел в Италии против гвельфов, и отправиться в Пруссию, чтобы присоединиться к тевтонцам. Великий магистр Поппон фон Остерна подготовил крепости ордена к обороне и направился с группой рыцарей в Силезию, дабы присоединиться к герцогу Генриху Благочестивомуи князю польскому Болеславу. Битва между христианской коалицией и татарами произошла 9 апреля 1241 г. возле небольшого городка в Силезии (Легница). Христианские рыцари потерпели поражение, а Поппон фон Остерна был тяжело ранен в бою. Однако и татары понесли большие потери, что не позволило им развернуть наступление на запад, и отступили на русские земли, по пути совершив опустошительный набег на Венгрию. Из всего христианского мира только Фридрих II, вечно отлученный от Церкви и единственный правитель, осмелившийся поднять голос перед новой угрозой, нависшей над христианской Европой, тщетно призывал правителей Запада выступить против захватчиков.