晓夫迅速提升，1926年12月他被提升为斯大林诺共产党委员会的组织部部长与斯大林诺党组织的副书记。9个月后，赫鲁晓夫帮助安排自己上司莫伊谢因科的下台。1928年卡冈诺维奇将他调到乌克兰首府哈尔科夫，并提拔他成为乌克兰中央委员会组织部部长。不久后又将他调往基辅。1929年赫鲁晓夫跟随卡冈诺维奇来到莫斯科，进入斯大林工业学院继续接受教育。虽然最后他没有完成学业，但在政治上却飞黄腾达。当时工业学院正充满反斯大林的“右派分子”，赫鲁晓夫积极响应学校党委攻击那些右派分子，并协助《真理报》指控和告发他们，他自己则很快成