出生就由其祖母辽兴宗的仁懿皇后抚养，长大成人之后，好文学。辽道宗太子耶律濬被杀害之后，辽道宗曾打算立侄子淳为嗣，后罢，封北平郡王，出为彰圣等军节度使。天祚帝即位。干统元年（1101年）封耶律和鲁斡为天下兵马大元帅，此意味着有皇位的继承权，封淳为郑王。干统三年（1103年）封耶律和鲁斡为皇太叔，进封淳为越国王。干统六年（1106年），拜为南府宰相，创议制订两府礼仪，进封为魏国王。干统十年（1110年），耶律和鲁斡去世，淳袭南京留职，冬夏入朝，宠冠诸王。天庆五年（1115年），耶律章奴谋反，打算迎立耶律