以煳口。13岁起，张天云独自到汉口经营小生意。1927年末，张天云从汉口回家过春节时，正逢中国共产党领导黄安、麻城地区农民举行武装起义，即黄麻起义，张天云从此投身革命，1928年2月当选为乡苏维埃委员。1929年4月参加中国工农红军，同年加入中国共产主义青年团。1931年4月转入中国共产党。历任鄂豫皖独立第一师二团三连班长、排长、连政治指导员，参加了鄂豫皖苏区第二次至第四次反“围剿”。1932年10月，张国焘领导的红四方面军反“围剿”作战失利，主力撤出鄂豫皖苏区向西转移，张天云因伤而留在苏区。同年11月