吴稚晖、张静江等人在上海召开中国国民党中央监察委员会紧急会议，通过“清查共产党呈文”，徐谦被列入看管监视名单中。4月12日，蒋介石在上海发动四一二事件。4月19日，武汉国民政府出师河南继续北伐，6月1日与冯玉祥所部国民军在郑州会师。6月10日到13日，汪精卫、徐谦、孙科、顾孟余等武汉方面领导人来郑州与冯玉祥开会。会上，汪精卫谴责蒋介石独裁，冯玉祥则主张停止宁汉之争，共同北伐。会议决定设立政治委员会开封分会，由冯玉祥任主席，徐谦等人任委员，负责中国国民党党务。通过此次会议，冯玉祥独揽河南及西北军政大权。此次会