参军任绍业说：“你能弹劾刺史吗？”任绍业一条条列出乔琳的过失给乔琳看，乔琳惊唿：“能知道我的过失，这是御史之材啊。”后又被召回朝中任大理少卿、国子祭酒，约十二年（777年）又出为怀州刺史。
唐德宗年间.大历十四年（779年），唐德宗登基，侍读国子博士张涉入翰林，迁散骑常侍，成为其一位有影响的顾问。乔琳和张涉交好，德宗要张涉推荐宰相人选时，尽管乔琳能力未显，张涉还是推荐乔琳有见识度量，可堪大用。八月，德宗相信张涉所荐，任乔琳为御史大夫、京畿观察使，授同中书门下平章事，为实质宰相，听闻