民国15年（1926年），冯玉祥参加北伐战争，进驻河南。民国19年（1930年），蒋中正和阎钖山、冯玉祥、李宗仁之间展开大规模内战──中原大战，河南是主要战场。蒋中正的中央军大获全胜。民国17年（1928年）－21年（1932年）期间，共产党的张国焘、徐向前等人在大别山区开辟武装割据的鄂豫皖革命根据地，一度威胁武汉。新集（今新县）是鄂豫皖根据地的首府。民国27年（1938年）6月，日军攻占开封后，国民政府挖开郑州花园口黄河大堤以阻止日军进攻郑州、武汉，但也造成河南、安徽、江苏三省40余县成为黄泛区，89万