省丽水县人。1873年中举人，担任德寿知府。1883年，阮朝朝廷向入侵的法国殖民者投降，阮范遵大怒，弃官而去。1885年，咸宜帝发起勤王运动，号召反对法国殖民统治。阮范遵与一起，在广平起兵响应，攻击同海城。1886年，被咸宜帝封为上将，与黎直、尊室谈、尊室詥共同追随咸宜帝，据守宣化县抗击法军。他领兵攻破广平城，杀死了与法国合作的布政阮廷杨。1887年，阮范遵在与法军的战斗中重伤被杀。