С 1921 по 1923 — ответственный секретарь сначала Василеостровского, затем Кронштадтского районных комитетов РКП(б). Затем вновь на политработе в РККА — одновременно военком штаба и заместитель начальника политуправления Западного фронта. После расформирования Западного фронта в 1924 году был назначен начальником политуправления МВО и прослужил на этом посту до 1928 года. Одновременно занимался партийной работой в Москве: в течение ряда лет избирался членом Бюро Московского горкома; с 31 декабря 1925 по 26 июня 1930 — членом Центральной контрольной комиссии ВКП(б) (избран на XIV съезде ВКП(б) и на XV съезде ВКП(б) — повторно). С июля 1928 года — заместитель начальника ПУРККА А. С. Бубнова, затем Я. Б. Гамарника. На XVI и XVII съездах ВКП(б) избран кандидатом в члены ЦК ВКП(б).