同年10月，命徐树铮率西北边防军第一师进入外蒙古，以武力迫使其在11月17日正式取消自治，回归中国。在北洋军阀各派系的斗争中，徐世昌惯以元老身分和居间调和者的角色因势操纵。1920年7月爆发直皖战争，皖系失败，徐依旧担任大总统。1922年第一次直奉战争后，直系获胜，控制北洋政府。曹锟、吴佩孚幕后操纵老国会指徐世昌总统为非法，迫其在6月2日去职。自此，徐世昌退出政界，居住天津英租界。
晚年.徐世昌晚年，日本尝试邀徐出任华北临时政府官职，徐世昌拒绝任职。 1939年6月6