В ноябре 1947 года, после капитуляции Японии, Гао поступил на службу в Народно-освободительную армию и в следующем году вступил в Коммунистическую партию Китая. Во время гражданской войны в Китае Гао участвовал в кампании Ляошэнь, кампании Пинцзинь и битве при Хенбао, был награжден шесть раз.