桂志愿加入中国共产主义青年团，由支部书记华干忠给江祥桂重新起名为江拥辉。1933年5月，江拥辉参加中国工农红军，1934年10月随红军踏上长征路。后在1935 年加入中国共产党。抗日战争期间，先后担任了八路军115师鲁南支队6团副政委、14团政委、山东军区滨海军区13团团长等职务。第二次国共内战期间，率部奔赴东北参战，并担任东北民主联军1纵1师副师长兼参谋长、后接替梁兴初任师长，此后部队改为中国人民解放军第38军，江拥辉担任112师师长，后升任38军参谋长。在朝鲜战争期间, 任中国人民志愿军第38军