Активно участвовал в становлении профсоюзного движения СССР: в 1921—1924 годах был председателем Смоленского губернского Совета профессиональных союзов, в 1924—1925 годах — Оренбургского и Казахского, в 1926—1928 годах — Татарского областного Совета профсоюзов в Казани, в 1928—1929 годах — Средневолжского краевого Совета профсоюзов в Самаре. Участвовал в съездах РКП(б) (начиная с десятого), съездах Советов и профсоюзов. Избирался во ВЦИК и ЦИК СССР. Во время работы в Казахстане в 1925 году познакомился с Н. И. Ежовым. В 1920-е годы стал использовать в качестве партийного псевдонима девичью фамилию матери (Боярская).