方面军很快晋升为连指导员、营政委等职。1932年，叶任红四军11师31团政委，后又历任11师政委、红三十一军93师政委等职，1935年参加长征。抗日战争爆发后，叶随部改编，出任八路军129师386旅（旅长陈赓）772团团长，率部先后参加了长生口战斗、神头岭战斗和响堂铺战斗，三战三捷。1938年4月初，日军3万余人进攻山西东南。4月15日，129师师长刘伯承决心集中优势兵力追击撤离武乡县城的日军3000余人。叶成焕奉命率772团等部为左纵队沿浊漳河北岸山地实施追击，4月16日晨，左纵队与其他部队一起在长乐