1926年（民国15年）2月，被北京政府任命为湖北督办，但被吴佩孚已任命的湖北督办陈嘉谟拒斥。同年末，卢金山遭到彭汉章率领国民革命军第九军及王天培率领国民革命军第十军进攻而败北。1927年（民国16年），吴佩孚下野，卢金山随之下野。此后，卢金山寓居天津。中国抗日战争爆发，日本军占领天津后，亲日政府多次邀请卢金山参加，但均被卢金山拒绝。1941年（民国30年）6月29日，卢金山在天津病逝。享年64岁。