唐式遵亲赴医院，向刘湘提出继任刘湘当时兼任的第二十三集团军总司令职务。1月20日，刘湘在汉口病逝，第七战区遭到撤销，唐式遵更加效忠蒋介石，在挤走了第二十四军团副军团长潘文华后，出任第二十三集团军总司令，并且仍兼任第二十一军军长，还指挥第五十师，改为隶属第三战区。1938年，唐式遵任第三战区（司令长官为顾祝同）副司令长官，并且仍兼任第二十三集团军总司令，第二十一军军长则由陈万仞继任。唐式遵先后在新郑、武汉、江苏、浙江、安徽等地以及长江沿岸同日军作战几百次。唐式遵部在负责长江防务期间，先后击伤、击沉五百余艘日本