В то же время, борьба с оппозицией долгое время велась очень осторожно и растянулась более чем на десятилетие. Только XVII съезд ВКП(б) (1934 год) смог констатировать, что резолюция 1921 года выполнена, и в партии впервые нет никаких фракций. Первым примером применения силовых репрессий во внутрипартийной борьбе стал проведённый в 1923 году органами ГПУ разгром одного из осколков запрещённой «рабочей оппозиции», группы Мясникова. После своего исключения из партии оппозиционеры продолжили свою политическую деятельность, теперь уже прямо нелегальную, и подверглись арестам. В том же году Дзержинский официально потребовал от членов партии доносить в его ведомство об известных им случаях фракционной деятельности.