叶戈罗夫作为一名少校参加了苏联红军，并转而加入布尔什维克。苏联国内战争时期，叶戈罗夫主要负责对乌克兰白军的战斗。1920年，他作为主要指挥员之一参加了苏波战争，在此期间与约瑟夫·斯大林和谢苗·布琼尼建立了良好的合作关系。1925年，叶戈罗夫被派往中国任驻华武官，成为冯玉祥主要的军事顾问之一。1927年回国后，叶戈罗夫被任命为白俄罗斯军区司令，进入苏联共产党中央委员会。1935年，叶戈罗夫成为首批5位苏联元帅之一。在大清洗初期，叶戈罗夫起初看起来比较安全，1937年他还被任命为图哈切夫斯基一案的法