代表北京政府与日本签订《中日陆军共同防敌军事协定》。1919年（民国8年），任国务总理兼陆军总长，因同「四大金刚」中的徐树铮对立而称病辞职。1920年（民国9年）7月直皖战争皖系败北后，靳云鹏再度出任国务总理。1921年（民国10年）辞职，此后赴天津英租界定居，与日本财阀合办胶东鲁大矿业公司，在济南开设鲁丰纱厂，在济宁等地开办电灯公司、济宁面粉公司，并广置不动产。其后，中国国民党及日本曾劝其重归政治舞台，但实际未再涉足政治。晩年笃信佛法。中华人民共和国建国后，留居天津。1951年1月3日，在天津逝世