美容姿，被圣宗喜爱。成人后，任祗候郎君。为宿直官。辽军攻打北宋，耶律室鲁为队帅，从南府宰相耶律奴瓜、统军使萧挞览攻打赵地、魏地，有功。加检校太师之位。统和二十一年（1003年）七月为南院大王（一说北院大王）。攻下通利军，辽宋和议成，耶律室鲁为门下平章事、特进，受位推诚竭节保义功臣。建议以六院部羊毛和北宋岁币里的绢交换，获得利益。统和二十九年（1011年）三月，任北院枢密使，封韩王。从耶律隆运管理北院，事务多有迟滞，室鲁被任命为北院枢密使，朝野相庆。从圣宗在松林狩猎，在沙岭去世。追赠守司徒、政事令之位。