出身，耶律吼之子。耶律何鲁不与耶律屋质参预平定耶律察割叛乱。辽穆宗因为耶律何鲁不的父亲耶律吼是拥立辽世宗的主导人物，故不重用耶律何鲁不，穆宗晚年耶律何鲁不为本族敞史。辽世宗的儿子辽景宗即位，以平定耶律察割之功，授耶律何鲁不为昭德军节度使，为北院大王。保宁七年（975年）七月，黄龙府卫将燕颇杀都监张琚叛辽，何鲁不讨伐燕颇，在鸭緑江将他击败。他不亲自率军追击，致燕颇逃走，被景宗处以杖刑。干亨年间，耶律何鲁不去世。