其后关率部驻扎北平，1935年调往洛阳。1936年，关奉命率部进入山西，对东渡黄河的红军东征军进行堵截，先后与红一军团和红二十五军发生战斗。1936年10月5日，关升任陆军中将，任西北剿匪十一纵队司令，率四个师参与堵截红军西路军。1937年，关升任52军军长，投入抗日战争。抗战中，关率部先后参与漳河战斗、台儿庄战役、武汉会战、第一次长沙会战等战役。由于他的英勇，时人誉之为“关铁拳”、“关勐”，与“孙钢头”孙连仲并称。1938年，关升任第三十三军团长，次年又升任第十五集团军总司令，为黄埔军校毕业生中升