属河南道郓州东平郡巨野县和河南道兖州鲁郡任城县。公元952年（五代后周广顺二年）分属河南道济州巨野县、任城县，1074年（北宋熙宁七年）属京东西路济州巨野县、任城县。1147年（南宋绍兴十七年，金皇统七年），析巨野、任城二县地置县，治所设在山口镇。借春秋时鲁哀公十四年春“西狞获麟”的故事，取其祥瑞之意，定名为嘉祥县，时属山东西路济州。元初属山东东西道济宁路总管府。1252年（元宪宗二年），属山东东西道东平路总管府。1266年（元至元三年）改属济州。1279年（至元十六年），属济宁路单州。明初隶属未变