915年，张伯烈因对袁世凯不满而辞职。1916年袁世凯死后，张伯烈由黎元洪电召入北京。此后张伯烈创办了张维学社。重开国会之后，张伯烈仍担任众议院议员的职务。1922年，张伯烈出任众议院副议长。1923年，曹锟贿选总统，曹锟向张伯烈许诺称，当选后任命其为湖北省省长，张伯烈遂同众议院议长吴景濂积极为曹锟买选票，但后来因为曹锟在第二次直奉战争中兵败被囚禁，张伯烈最终未能如愿当上湖北省省长，仅得任两湖巡阅使署秘书的职务。曹锟、吴佩孚下台后，张伯烈北上天津任执业律师。晚年，张伯烈在北平闲居。1934年，张伯烈病逝。