罗贵波是江西南康县潭口镇人。1927年加入中国共产党，次年组织领导潭口镇农民暴动。后任中共赣县县委书记、赣县游击队队长兼政委。1930年，任赣南红军第二十八纵队政委，同年改任红三十五军军长、政委。次年，任红一方面军独立三师政委。1934年，参加长征，任中央红军干部团三营政委等。中日战争爆发后，任八路军120师政治部民运部部长。1938年，任晋西北区党委副书记、第120师359旅政委，参与领导创建晋西北抗日根据地。1940年，率部参加百团大战，任晋绥边区南线指挥。1945年，出席中国共产党第七次全国代表大会。1948年，任晋中区党委书记，晋中军区司令员兼政委。率部参加汾孝战役、临汾战役、晋中战役、太原战役等。1949年，担任太原警备司令员。