第一军驻徐州九里山，奉命缩编为陆军第一师；张调任第一师第三旅第六团第一营第二连连长。张灵甫参加过中原大战等战役，在进攻河南唐生智战斗中，右臂负伤；1931年，升任第一师第五团第三营营长。
第一次国共内战时期.1932年参与对中国工农红军作战，于六安、苏家埠突破红军防线，将红军击溃，获蒋中正和胡宗南赞赏。1934年，胡宗南任第一师师长，奉蒋介石命令，率部从湖北麻城、黄陂追击红四方面军。张灵甫营为前锋，行动迅速，一度与红军发生白刃战，双方伤亡惨重。战斗结束时受到胡宗南传令嘉奖，升为