Бандитская вольница продолжалась в Одессе до того момента, пока особый отдел 3-й армии не возглавил старый большевик с дореволюционным стажем Федор Фомин. Он объявил настоящий крестовый поход на бандитов: бывали дни, когда без суда и следствия на месте преступления расстреливали до сорока человек.
Мишка быстро смекнул, что скоро настанет и его черед, и, не дожидаясь расправы, пожаловал к Фомину с предложением создать под его командованием полк для борьбы с белогвардейцами. Японец обещал поставить под ружье две тысячи человек исключительно еврейской национальности со своим оружием, провиантом и обмундированием.
После недолгих согласований разрешение на формирование полка было получено, но на фронт однополчане не спешили. Бандиты-красноармейцы днем горланили песни на одесских улицах, а вечером занимались своим основным ремеслом - грабили и убивали. На президиуме губернского комитета ВКП(б) даже специально рассматривался вопрос о полке Мишки Япончика. Постановили: «Никого из части не отпускать, добавлять туда коммунистов, всех уходящих считать дезертирами». И все-таки в какой-то момент большевикам удалось вытолкать полк на фронт. По этому случаю «фронтовики» закатили шикарный банкет: комендант Одессы Павел Мизикевич преподнес Японцу серебряную саблю с монограммой, а тяжелое бархатное красное знамя от РВС страны ему вручали председатель губисполкома Петр Забудкин и комиссар труда Петр Старостин.