后属后赵、前燕、前秦、后燕、南燕。刘裕平定南燕后，将平阴县并入卢县，属兖州济北郡，北魏占领此地后改属济州，此时境内有谷城县。隋朝开皇十六年，设置榆山县。大业二年，榆山县改称平阴县，属济北郡。唐朝武德四年属济州。贞观元年，属河南道郓州。开元二十九年属河南道济州。大和六年，平阴县撤销，分属东阿县、卢县，五年后复置，属郓州东平郡。五代，平阴县属天平节度使郓州。北宋时期，今平阴境分属平阴县、东阿县。其中平阴县先后属京东路郓州、京东西路郓州和东平府。金朝，属山东西路东平府。元朝时期，先后属燕南河北道东平路、山东西