后于1926年参加国民党北伐。1930年率部参加中原大战，参与讨冯之役；1933年在第2师任营长时，参加古北口之役。当时第2师（师长黄杰）奉命支援25师师长关麟征所部，于古北口南天门抵抗日军，刘右臂中弹负伤。此时第2师与25师同在第17军（军长徐庭瑶）建制之下，稍后在1937年时，又以此两师为基干成立了52军。军旅生涯共负伤五次，其中第二次受伤在中原大战时，伤癒后，头发脱落，从此「刘光头」之名响亮于世。抗战初期，先后参加台儿庄战役、武汉会战和瑞昌防守战。1937年9、10月保定战役时升任团长