Under striden om freden i Brest-Litovsk hadde Bukharin gått mot denne og dermed sluttet seg til partiets venstrefløy. Da Lenin i 1921 imidlertid tok initiativ til NEP-politikken forlot Bukharin sine gamle allierte og sluttet seg til flertallslinja i partiet. I 1924, etter Lenins død, overtok Bukharin dennes plass i eksekutivkomiteen i partiet, og var av mange sett på som en vel så sannsynlig etterfølger etter Lenin som Stalin eller Trotskij som i ettertid har blitt sett på som de fremste rivalene. Han tok først parti for Stalin da han sammen med Lev Kamenev og Grigorij Zinovjev mot Trotskij, og siden da Stalin vendte seg mot sine to andre tidligere allierte.