北洋政府的军队，攻占买卖城。乔巴山担任西路革命军指挥，和苏联红军共同作战，击败了恩琴的俄国白军。1921年7月，蒙古人民革命政府成立，乔巴山出任第一届人民政府委员、人民军政治委员。1921年8月，乔巴山任蒙古革命青年团中央委员会书记。1923年，苏赫巴托尔逝世之后，乔巴山和其他蒙古人民党领导人按照列宁主义原则，准备在蒙古彻底消灭封建势力，逐步使作为落后国家的蒙古不经过资本主义而向社会主义过渡。1924年外蒙接连暴发反抗共产党统治的事件，乔巴山于1922年7月接获苏联指示特设「内政防卫处」（后改为内务部）