于1925年与加米涅夫等结成为“新反对派”反对斯大林，翌年又与托洛茨基及其支持者结为同盟（斯大林称其为“托洛茨基—季诺维耶夫反苏联合中心”）。1926年，被解除中央政治局委员及共产国际执行委员会主席职务并开除出党。然而，他在1927年全联盟共产党（布尔什维克）第十五次代表大会上做了自我批判，在1928年恢复党籍，任喀山大学校长。1932年末由于涉及柳廷事件，再次被开除出党，被捕后分别流放哈萨克斯坦库斯塔奈，后判处流放卡卢加4年，加米涅夫被流放至东西伯利亚米努辛斯克。1933年再次获准回到莫斯科，被恢复党