黄铁村普通农家。早年读过五年私塾，1922年夏考入武昌国立张之洞学校，次年12月辍学回家务农，并学会编竹篾的手艺。1926年秋，北伐军攻占武汉后，黄永胜参加农民自卫队，之后又到武汉参加北伐军，加入武汉国民政府警卫团当战士。1927年9月，黄永胜参加秋收起义，在3团9连担任士兵。此后，随起义军余部进军井冈山。同年12月，黄永胜经王良介绍加入中国共产党，罗荣桓主持他的入党仪式。随后，黄永胜参与井冈山根据地斗争，期间被毛泽东改名为黄永胜。1929年，随红四军进军赣南、闽西，在中国工农红军任排长、连长、副团长、