1921年3月，蒙古人民党成立，乔巴山当选为蒙古人民党中央委员会委员以及中央主席团成员，任蒙古人民革命军副总司令兼政治委员。3月18日该军在苏联红军的支持下击败中国北洋政府的军队，攻占买卖城。乔巴山担任西路革命军指挥，和苏联红军共同作战，击败了恩琴的俄国白军。1921年7月，蒙古人民革命政府成立，乔巴山出任第一届人民政府委员、人民军政治委员。1921年8月，乔巴山任蒙古革命青年团中央委员会书记。1923年，苏赫巴托尔逝世之后，乔巴山和其他蒙古人民党领导人按照列宁主义原则，准备在蒙古彻底消灭封建势力，逐