失于戒备，被金军所败，逃入沈州城，城破，缒城西逃。贬为平州（今河北省卢龙县）辽兴军节度使。保大二年（1122年），金兵破辽中京（今内蒙古宁城县西大明城），天祚帝仓皇出逃云中（今山西省大同市），留其与李处温等佐魏国王耶律淳守南京（今北京市），李处温等拥立耶律淳为帝，张琳不得已而勉强从之，为守太师。然不为重用，不久病故。