Войска НКВД являются, как и многое другое, детищем Лаврентия Павловича Берии. 29 сентября 1938 года он был назначен начальником Главного управления государственной безопасности (ГУГБ) НКВД СССР и в тот же день было образовано Главное управление пограничных и внутренних войск НКВД СССР, которое приказом НКВД № 00206 от 8 марта 1939 года было разделено на шесть главных управлений по видам войск — пограничных, по охране особо важных предприятий промышленности, по охране железнодорожных сооружений, конвойных войск, а также Главные управления военного снабжения и военного строительства. Оперативные части, специально подготовленные для преследования и блокирования бандформирований, вошли в состав пограничных войск, а 26 февраля 1941 года были выделены в самостоятельный род войск — оперативные войска НКВД СССР. 19 января 1942 года они были реорганизованы во внутренние войска НКВД СССР. Заместителями Берии по войскам на протяжении всей их истории с 1939 по 1953 год были два человека — это генерал-полковники Иван Иванович Масленников и Аркадий Николаевич Аполлонов.
Наиболее многочисленными были пограничные войска, насчитывавшие на 22 июня 1941 года 167 тыс. 582 человека. Они прекрасно знали, что происходит на сопредельных территориях из донесений своей разведки, и своевременно докладывали об этом по инстанции. Поэтому Берия повысил плотность охраны западного участка государственной границы от Баренцева до Чёрного моря, доведя ее численность до 100 тыс. человек. По его распоряжению пограничники получали полный боекомплект патронов и ручных гранат, на службу выходили в стальных касках, а в часы отдыха спали, не снимая верхней одежды и имея свое оружие рядом с кроватью. Командиры круглосуточно находились на заставах. С 15 по 20 июня 1941 года пограничники постоянно фиксировали подвоз боеприпасов со стороны немецких и румынских частей к границе, установку на огневые позиции артиллерии, шум многочисленных танковых моторов, работу офицерских рекогносцировочных групп, подвоз переправочных средств, отселение от границы местного гражданского населения. О какой внезапности здесь можно говорить? Ни для Берии, ни для Сталина ее не было — а вот почему дивизии Красной Армии находились в районах, удаленных от назначенных им рубежей развертывания на 8—20 километров — это уже вопрос к Наркомату обороны и Генеральному штабу, им проще было объяснить свои действия внезапностью. Пограничники же ожидали нападения, никакой паники, суеты и бесцельной стрельбы в их рядах не было. «Пограничные войска вступили в бой первыми, ни одна пограничная часть не отошла, — пишет Серго Берия. — На западной границе эти части сдерживали противника от 8 до 16 часов, на юге — до двух недель. Здесь не только мужество и героизм, но и уровень военной подготовки. И сам собой отпадает вопрос, зачем пограничникам на заставах артиллерия. Гаубиц, как пишут, там не было, а противотанковые орудия заставы имели. На этом перед войной настоял отец, прекрасно понимая, что с винтовкой наперевес на танк не пойдешь. А гаубичные полки были приданы погранотрядам. И это тоже сыграло свою положительную роль в первых боях. Армейская артиллерия, к сожалению, не сработала…» Газета «Правда» от 24 июня 1941 года писала: «Как львы дрались советские пограничники, принявшие на себя первый внезапный удар подлого врага. Бессмертной славой покрыли себя бойцы-чекисты… Они бились врукопашную, и только через мертвые их тела мог враг продвинуться на пядь вперед».