加封为御史中丞。建中二年击败李纳，斩首万余级，功加御史大夫。又克濮州，杨令晖投降。又与淮西节度使李希烈殊死战，多有战胜，希烈攻陈州，刘洽遣刘昌与诸军救之。在陈州大破李希烈，夺取汴州，为汴宋节度使、陈州诸军行营都统，唐德宗回长安，赐名为刘玄佐。官至泾原四镇北庭等道兵马副元帅。玄佐厚赏军士，颇得民心，知错能改，一日欲杀翟行恭，为谋士郑涉所劝阻。贞元二年（786年），韩滉与刘玄佐同拜为兄弟。贞元八年（792年）四月宣武军节度使刘玄佐死后，追赠为太傅。其子刘士宁继任。