Призыв рядового состава осуществлялся на основе Закона об обязательной военной службе, принятого 18 сентября 1925 года. В нем было установлено, что защита СССР является обязанностью всех граждан, но оборона страны с оружием в руках доверяется только трудящимся, «на нетрудовые элементы возлагается выполнение иных обязанностей по обслуживанию обороны Союза ССР». В армию зачисляли годных по состоянию здоровья граждан, достигших 21 года, которые должны были «отбарабанить» в вооруженных силах пять лет.
В кадровых частях эти годы слагались, во-первых, из непрерывной службы сроком от 2 до 4 лет (в зависимости от рода войск и специальности) и, во-вторых, из отпуска сроком 1–3 года, с обязательным привлечением во время отпуска на учебные сборы общей продолжительностью не более двух месяцев. Переменный состав территориально-милиционных формирований регулярно призывался на учебные сборы, общей продолжительностью 8–12 месяцев. В период между сборами резервисты числились в воинских частях состоящими в отпуске и могли участвовать в строительстве социализма.
На кадровую службу охотно шла та часть сельской молодежи, которая хотела вырваться из деревни и перебраться в город. Младших командиров пытались готовить из наиболее грамотных красноармейцев на ускоренных курсах в батальонных школах. При этом срок службы им продлевали с двух лет до трех. В военные школы, где готовили «красных офицеров», старались набирать рабочих.
В 1926 году была введена военная подготовка в общеобразовательных школах, но толку от нее было немного. Кроме того, ежегодно в летнее время по всему Советскому Союзу проводились «недели обороны» с обязательным участием всего трудоспособного населения страны. Тогда же был создан ряд оборонно-патриотических обществ, объединенных в январе 1927 года в «Осоавиахим».
Общая численность вооруженных сил в период с 1924 по 1931 годы не превышала 640 тысяч человек, а количество начальствующего состава — 40 тысяч.
На протяжении 1920-х годов армия просто боролась за свое выживание. Так, 20 января 1924 года заместитель председателя Реввоенсовета Эфраим Маркович Склянский (1892–1925) сообщал в Совет Труда и Обороны:
«При предельных окладах для младшего комсостава — 18 рублей, для среднего — 40 рублей и для старшего — 60 рублей, т.е. для преобладающей по численности категории военнослужащих, получаемое ими содержание не составляет даже прожиточного минимума. При современных условиях рынка оклад не может обеспечить не только семьи, обреченные на все лишения полуголодного существования, но их самих».
В сводке Политического управления от 15 ноября 1926 года указывалось: