见识度量，可堪大用。八月，德宗相信张涉所荐，任乔琳为御史大夫、京畿观察使，授同中书门下平章事，为实质宰相，听闻此事的人都震惊了。乔琳衰老，听话困难，德宗咨询他，他几乎不能妥善对答，谋事也多疏漏，论事也不合时宜，只当了不到90天宰相，就在十一月被罢相改任工部尚书，由司空崔宁代为御史大夫和宰相，而另一宰相崔祐甫因患病不理政事，于是另一宰相杨炎因而得以专国政。德宗也因此疏远了张涉。建中元年（780年）十月，德宗以弟睦王李述为奉迎使，乔琳为副使，在全国范围内搜寻在安史之乱中失踪的母后沈太后。沈太后最终未能找到。