入中国共产党。同年10月，任山西省汾城县自卫总队党的负责人。1938年2月至5月，任中共汾城县委书记。同年10月至1939年7月，任山西新军政治保卫队第二支队政治部组织科科长。1939年7月，任山西新军第213旅政治部主任。同年12月，爆发十二月事变，阎锡山与中共产生矛盾，并在赴秋林开会途中杀害了第213旅旅长郝玉玺，程谷梁随后率领第213旅出围，并担任政委。1940年春，任决死第一纵队政治部组织部部长。1941年9月至1943年1月，任太岳行署建设处处长。同年到延安学习。1945年4月至6月，作为晋冀鲁豫