知远把闵帝随从杀尽，石敬瑭便舍闵帝而去。936年，后唐末帝下诏调河东节度使石敬瑭为天平节度使。刘知远劝石敬瑭起兵。石敬瑭便举兵叛唐。刘知远不赞成石敬瑭以割让燕云十六州向契丹借兵。石敬瑭不从。刘知远任马步军都指挥使，同年任保义军节度使。石敬瑭灭后唐，建后晋，937年任刘知远为忠武军节度使，又任归德军节度使，941年任邺都留守，寻改任河东节度使。出帝继位后，在943年升刘知远为中书令，944年任幽州道行营招讨使，封太原王，次年改封北平王。出帝开运四年（947年），契丹灭后晋。河东行军司马张彦威等人以中原