С первых же дней войны советские бронепоезда в ступили в бой с наступавшими немецкими частями. Находившимся непосредственно в приграничной зоне бронепоездам НКВД пришлось решать несвойственные им задачи. Они вели борьбу с танками и самолетами, оказывали огневую поддержку отступавшим частям Красной армии
| № п/п | Наименование части | Дислокация | Бронепоездов | Платформ с зенитн. вооружением СПУ-БП | Бронеавтомобилей на ж.д. ходу | Вагон-маст. | Бронедрезин | ||
| легких | тяжелых | легких | средних | ||||||
| 1. | 1 ОДБП | Киев | 2 | 1 | 2 | 6 | 5 | 1 | - |
| 2. | 2---- | Куйбышевка | 2 | 1 | 3 | 4 | 4 | 1 | - |
| 3. | 3---- | Ворошилов-Уссурийский | 2 | 1 | 3 | 5 | 5 | 1 | - |
| 4. | 4---- | Брянск | 8 | 4 | - | 7 | 7 | 1 | - |
| 5. | 7---- | Тбилиси | 5 | 2 | 3 | - | 1 | - | |
| 6. | 8---- | Туапсе | 2 | 1 | 3 | 4 | 4 | 1 | 1 |
| 7. | 9---- | Ворошилов-Уссурийский | 2 | 2 | 3 | 2 | 2 | 1 | 1 |
| 8. | 10 Отд. бронепоезд | Кизил-Арват | 2 | - | 2 | - | - | - | |
| 9. | 11---- | Грозный | 2 | - | 2 | - | - | 1 | 1 |
| 10. | 13- | Вяремская | 1 | - | 1 | - | - | 1 | - |
| 11. | 63---- | Даурия | 1 | - | 1 | - | - | 1 | - |
| 12. | 66---- | Бикин | 1 | - | 1 | 1 | 1 | 1 | - |
| 13. | 67---- | Лазо | - | 1 | 1 | 1 | 1 | 1 | - |
| 14. | 60---- | Ленинград | 1 | - | 1 | 1 | 1 | 1 | |
| 15. | 100 легк. арт. полк | Чита | 3 | - | 2 | - | - | - | - |
| 16. | 5 отд.б-н бронедрезин | Бурея | - | - | - | 22 | 22 | - | 5 |
| Всего: | 34 | 13 | 28 | 107 | 52 | 12 | 9 | ||
Первые же столкновения показали, что бронепоезда далеко не всегда могут оказывать адекватное противодействие германским танкам, а противовоздушная оборона бронепоездов явно недостаточна. И, кроме того, вместо стремительных огневых налетов пришлось вести тяжелые оборонительные бои.
Бронепоезд №66 под командованием майора Н. Панькова из состава 10-й дивизии НКВД участвовал в боях на участке Перемышль – Львов. Здесь, под Перемышлем, экипаж бронепоезда поддерживал своим огнем действия частей 99-й стрелковой дивизии, рассеяв мотострелковый батальон наступавших немцев. Но это был лишь эпизод. Под мощным натиском фашистов бронепоезду вместе с другими частями Красной армии пришлось отступить к Киеву.
В конце июня 1941 года из числа бронепоездов, базировавшихся в центральных округах, были отправлены на Юго-Западный фронт 1-й Отдельный дивизион бронепоездов; на Западный фронт, в районы Молодечно-Борисов, Минск-Борисов, Бобруск- Жлобин, Смоленск-Орша, – 6-й и 12-й отдельные дивизионы бронепоездов, отдельные бронепоезда №№ 44, 53, 54; на Северо-Западный фронт, на участок Таллин-Нарва – 60-й отдельный бронепоезд.
Остальные дивизионы и отдельные бронепоезда, дислоцировавшиеся в Забайкальском, Среднеазиатском, Закавказском военных округах и на Дальнем Востоке, «отмобилизовались и заняли пункты дислокации в своих приграничных районах».
На территорию Белоруссии, в Полоцк, прибыли два мотоброневагона НКВД, ранее располагавшиеся на Калининской железной дороге. 10 июля один из мотоброневагонов был отрезан немецкими войсками на перегоне Полота-Дретунь. Немецкие саперы взорвали железнодорожные пути и мотоброневагон оказался в ловушке. Экипаж отстреливался до последнего снаряда, а затем взорвал мотоброневагон и с тяжелыми боями вышел из окружения.
Бронепоезда №47 и 48 уже упоминавшегося 12-го отдельного дивизиона в районе Борисова были уничтожены пикирующими бомбардировщиками Люфтваффе. Слишком слабым оказалось зенитное вооружение бронепоездов, чтобы противодействовать этим налетам.
Таким образом, существовавшее количество бронепоездных частей и так оказавшееся весьма малочисленным, особенно в Центральных округах, в первых же столкновениях с наступавшим врагом понесли серьезные потери. В результате бронепоезда, оставшиеся в строю в первые месяцы войны не могли обеспечить всей потребности фронтов и, только «начиная с октября месяца 1941 года бронепоезда, построенные по инициативе рабочих, влились дополнительно в действующие части: 21-й и 22-й дивизионы на Западный фронт, 7-й и 8-й дивизионы на Южный и 24 отдельных бронепоезда на Юго-Западный».
Значительные потери бронепоездов, действовавших на фронте вызвали необходимость их увеличения двумя путями. Во-первых, за счет строительства новых бронепоездов, во-вторых, «путем переформирования кадровых дивизионов трехпоездного состава и отдельных бронепоездов в дивизионы двухпоездного состава». Это предписывалось Директивой Народного Комиссара Обороны 22сс от 29 октября и директивой Зам. НКО генерал- лейтенанта Я.Н. Федоренко и в соответствии с ней в 1941 году было построено 24 бронепоезда, а в 1942-м сформировано 34 дивизиона двухпоездного состава.