1924年列宁病逝，季诺维也夫和托洛斯基、斯大林、布哈林、加米涅夫、李可夫并列为苏联共产党中央政治局委员，为苏共的六名主要领导人。他与加米涅夫一起，联合斯大林、布哈林，将托洛茨基逐出党中央。然而，为了遏制斯大林不断膨胀的权力，他于1925年与加米涅夫等结成为“新反对派”反对斯大林，翌年又与托洛茨基及其支持者结为同盟（斯大林称其为“托洛茨基—季诺维耶夫反苏联合中心”）。1926年，被解除中央政治局委员及共产国际执行委员会主席职务并开除出党。然而，他在1927年全联盟共产党（布尔什维克）第十五次代表大会上做了自我批判，在1928年恢复党籍，任喀山大学校长。