任期届满，安福国会选举徐世昌为大总统。段与冯约定共同下野。段祺瑞通过安福系继续在幕后操纵政权。1920年7月在直皖战争中失败，退隐天津。1924年10月23日，冯玉祥发动甲子兵变，推翻大总统曹锟，先邀请孙中山北上，后与奉系妥协，请段祺瑞出山，任中华民国临时政府的临时执政（国家元首）。1925年4月24日，段正式下取消法统令，废除断续运行12年的中华民国第一届国会，由中华民国临时参政院替代之。
晚年.1926年3月18日，发生北洋政府镇压北京学生运动的三·一八惨案，同年4月9