从此投身革命，1928年2月当选为乡苏维埃委员。1929年4月参加中国工农红军，同年加入中国共产主义青年团。1931年4月转入中国共产党。历任鄂豫皖独立第一师二团三连班长、排长、连政治指导员，参加了鄂豫皖苏区第二次至第四次反“围剿”。1932年10月，张国焘领导的红四方面军反“围剿”作战失利，主力撤出鄂豫皖苏区向西转移，张天云因伤而留在苏区。同年11月，中共鄂豫皖省委重组红二十五军，他伤愈归队任第七十四师二二二团一营三连政治指导员，后来历任第五路游击师第二一九团一连指导员，红二十五军第七十五师二二三团一营二