太平真君九年（448年），废除乐平郡。孝昌年间恢复，改沾县为乐平县。隋朝开皇三年（583年），隋文帝废除郡一级，将乐平郡并入辽州。
唐朝中期.唐玄宗天宝元年（742年），改仪州为乐平郡，领四县：辽山县、和顺县、平城县、榆社县。唐肃宗干元元年（758年），复改为仪州。