1937年10月起，粤汉铁路就遭到日军连续轰炸。铁路职工随炸随修，使行车没有中断，直至1938年10月21日广州沦陷。从1938年到1945年9月，因广州、武汉、长沙、衡阳相继沦陷，为阻隔日军，粤汉铁路职工奉命拆除设备或破坏线路，加上日军的狂轰滥炸，全线70%的桥梁（303座）、9座隧道被毁，线路亦逐段被拆，站场及行车设备也几乎全被破坏。日本侵占期间，日军曾在源潭至新街间修建木便桥铺轨，行驶轨道汽车。到1944年5月，粤汉铁路（含湘潭支线）湘潭至韶关间只有491公里能维持通车。