师团一部、战车第3师团主力、骑兵第4旅和菊兵团攻击洛阳。5月21日，在日军优势兵力围攻之下，负责掩护部队西撤的第36集团军司令李家钰中将（后追晋为陆军上将）阵亡，守军奋战至5月25日分路突围，洛阳失守。在日军第12军主力西进后，第五战区第五十五军、第十战区豫南挺进军等部，向平汉铁路南段实施袭击，一度收复确山、漯河等地，以牵制日军。6月2日，第一战区主力、第八战区一部发起反击，战至中旬，将日军逐至陕县、洛宁、嵩县、鲁山一线，双方对峙。1944年5月中旬，日军6万占领河南，国民革命军全线溃败，国军在撤退