向日本人贷款的丑闻传出，黎元洪于是在5月23日罢免段祺瑞的国务总理职务。段祺瑞内阁告终。段祺瑞被罢免之后，愤而离京，他声称根据《临时约法》，总统无权解除总理职务，他邀请督军团团长张勋入京调停纷争。而同时，伍廷芳代理段之后的总理职务。黎元洪提出由王士珍和徐世昌组阁，但是二人都不肯来。黎元洪于是提议李经羲，国会表决顺利通过，但是李经羲却因为畏惧北洋军阀势力而不敢就任和组阁。一时之间，国务纷乱，为张勋复辟创造了条件。