Перед Ставкой и фронтом встал вопрос: что сделать с 1-й армией? Цель похода в Пруссию, казалось, была достигнута: с французского фронта оттянуты значительные силы врага. Все указывало на необходимость срочного отступательного маневра на государственную границу — на сближение с базами и навстречу подкреплениям. Однако великий князь рассудил иначе. Весь смысл войны Ставка видела во владении территорией и захвате географических объектов. Эта ересь была характерной для всей русской стратегии Мировой войны и вела к тому, что войска крепко «пришивались» к занимаемому им району. Это «ни шагу назад» исключало всякий маневр, делало невозможным заблаговременное парированье, приводило в конце концов к разгрому живой силы и, как неизбежное последствие, утрате той территории, для «сохранения» которой и приказывалось «стоять и умирать». Ставка, да и сам Ренненкампф, не желали отступать. 1-я армия расположилась по рекам Дейме и Алле, имея уплотнение на правом фланге, и генерал Жилинский, придя в себя после разгрома Самсонова, указал ей продолжать подготовку блокады Кенигсберга — как будто бы германской армии (вдобавок и победоносной) никогда и не существовало! В 1-ю армию был двинут новосформированный XXVI корпус генерала Гернгросса (53-я и 56-я пехотные дивизии), направленный на правый ее фланг — к Кенигсбергу. В районе Гродно и Августова образована новая 10-я армия генерала Флуга пока в составе одного лишь XXII армейского корпуса. Остатки 2-й армии возглавил генерал Шейдеман, передавший свой II корпус герою Ляояна генералу Слюсаренко.
Тем временем в VIII германскую армию прибыли с запада Гвардейский резервный и 11-й армейский корпуса. Перед Гинденбургом встал вопрос: добить ли остатки 2-й армии ударом на нижний Нарев и дальше, продвигаясь на юг, выйти в тыл нашим 4-й и 5-й армиям, или обратиться на русскую «Неманскую армию» и освободить Восточную Пруссию? Германский полководец избрал второе решение — более осторожное.
Оставив против 2-й армии ландвер фон дер Гольца (4 дивизии), Гинденбург развернул против 1-й русской армии (имевшей 11,5 пехотных дивизий) 16 пехотных дивизий при двойном перевесе в артиллерии. Людендорф называет это «операцией неслыханной смелости» — штаб VIII армии считал силы Ренненкампфа равными 24 дивизиям! Сковывая 10 дивизиями русских с фронта, Гинденбург решил нанести удар 6 другими (1-й и 17-й армейские корпуса) в левый фланг Ренненкампфа, удерживавший перешейки Мазурских озер. 25 августа VIII германская армия развернулась для атаки, и в этот день у Бялы правый фланг ее ударной группы опрокинул отряд XXII армейского корпуса, а главные силы навалились на II армейский корпус генерала Слюсаренко.
Бой под Бялой — неудачное боевое крещение финляндских стрелков. Наша сводная бригада была разбита германской дивизией фон Моргена с потерей около 2500 человек и 8 орудий. Штаб 1-й армии, сразу увидя опасность левому флангу, быстрым рокадным движением направил туда с правого фланга XX армейский корпус. 26-го числа сражение разгорелось по всему фронту, на левом фланге достигнув чрезвычайного напряжения. 27 августа 1-я армия, доведенная до 13,5 дивизий, отбивала атаки по всему фронту, но положение на левом фланге, где XX армейский корпус по частям вступал в бой, выручая II корпус, было настолько серьезным, что генерал Ренненкампф решил отступить по всему фронту. Отход удался вполне в XXVI, III и IV корпусах, благополучно оторвавшихся от противника. На левом же фланге XX и II корпуса изнемогали в жестоком бою, своим сопротивлением обеспечивая отход всей армии. Были потеряны Гольдап и Лык.
Удар 6 германских дивизий и 90 батарей приняли наши 3 дивизии (II корпус был усилен 76-й пехотной дивизией) с 20 батареями в бою 26 августа. Наш 169-й пехотный Ново-Трокский полк геройски принял удар всего 1-го германского армейского корпуса. 27 августа Ренненкампф усилил генерала Слюсаренко 72-й пехотной дивизией. В то же время IV армейский корпус, усиленный 57-й пехотной дивизией, успешно контратаковал 11-й германский. 28 августа было самым тяжелым днем. Левый фланг, несмотря на прибытие частей XX армейского корпуса и 54-й пехотной дивизии, понес огромные потери (60 орудий).
29 августа остатки геройских полков генерала Слюсаренко сами перешли в контратаки, и генерал Век-Алиев поддержал их коротким ударом своего IV корпуса, нагнавшим панику на 11-й и 20-й германские корпуса. XX корпус снова захватил Гольдап. 30 августа бились все те же полки — и армия отходила благополучно под их прикрытием. 31-го генерал Ренненкампф получил приказание Жилинского отойти за Неман (2-я армия отводилась за Нарев). Авангард фон Моргена захватил Сувалки. II и XX корпуса отбили неприятельский охват, и 1 сентября вся 1-я армия отошла назад за линию границы, которую ровно за месяц до того перешла с победой…