并学会编竹篾的手艺。1926年秋，北伐军攻占武汉后，黄永胜参加农民自卫队，之后又到武汉参加北伐军，加入武汉国民政府警卫团当战士。1927年9月，黄永胜参加秋收起义，在3团9连担任士兵。此后，随起义军余部进军井冈山。同年12月，黄永胜经王良介绍加入中国共产党，罗荣桓主持他的入党仪式。随后，黄永胜参与井冈山根据地斗争，期间被毛泽东改名为黄永胜。1929年，随红四军进军赣南、闽西，在中国工农红军任排长、连长、副团长、团长。1932年起，黄永胜先后任红三十一师、红六十六师师长，其率部围攻南丰，获得第四次反围剿战