1921年红军进入格鲁吉亚，建立格鲁吉亚苏维埃政权，斯大林在其中舉足輕重。由于此时列宁和托洛茨基在若干问题上有所分歧，于是列宁重用斯大林与之抗衡。在加米涅夫襄助下，1922年4月3日，斯大林在俄共第十一次代表大会上被选为苏联共产党中央委员会总书记。同年5月列宁突然中风，被迫停止政务活动。在处理格鲁吉亚事件时，斯大林要求削减格鲁吉亚的地方自治权，主張格鲁吉亚苏维埃應并入南高加索联邦再并入苏联，引起当地布尔什维克的不满。他和谢尔戈·奥尔忠尼启则于是对反对派使用粗暴的高压政策，列宁对此非常反感，称他们的行为是“大俄罗斯沙文主义”。同时，斯大林要求放松外贸垄断的建议也跟列宁发生分歧。列宁于是在遗嘱中写道：“斯大林太粗暴，这个缺点在我们中间，在我们共产党人的来往中是完全可以容忍的，但是在总书记的职位上便是不可容忍的。因此，我建议同志们想个办法把斯大林从这个位置上调开，另外指定一个人担任总书记。”同时列宁寻求与托洛茨基再次合作。斯大林得知后，在电话里辱骂列宁的妻子娜杰日达·克鲁普斯卡娅，列宁之后曾愤怒写信给斯大林，并以绝交威胁他道歉。斯大林选择低头认错最终事情平息。在列宁健康恶化时期，斯大林和列夫·加米涅夫、格里戈里·季诺维也夫建立政治同盟，共同对抗党内威望较高的托洛茨基。