定速成学校毕业，后来到云南省，并加入中国同盟会。辛亥革命后，他回到北京，在陆军军事学校任职，此后历任陆军第10混成旅参谋长、第11师参谋长、第11师第22旅旅长。1924年（民国13年），任冯玉祥组织的国民军第2师师长。1925年（民国14年），代理甘肃军务督办。1926年（民国15年）9月，冯玉祥五原誓师，刘郁芬正式被任命为甘肃督办。中国国民党北伐之际，他任第7方面军总指挥兼甘肃省政府主席。1929年（民国18年），冯玉祥同蒋介石的内战开始，任冯手下的第3路军总指挥、第2军团总司令。1930年