石敬瑭帐下任牙门都校。934年，闵帝出逃到卫州时，与石敬瑭议事未决，后唐闵帝随从欲动武，刘知远把闵帝随从杀尽，石敬瑭便舍闵帝而去。936年，后唐末帝下诏调河东节度使石敬瑭为天平节度使。刘知远劝石敬瑭起兵。石敬瑭便举兵叛唐。刘知远不赞成石敬瑭以割让燕云十六州向契丹借兵。石敬瑭不从。刘知远任马步军都指挥使，同年任保义军节度使。石敬瑭灭后唐，建后晋，937年任刘知远为忠武军节度使，又任归德军节度使，941年任邺都留守，寻改任河东节度使。出帝继位后，在943年升刘知远为中书令，944年任幽州道行营招讨使，封太原