建昭五年（前34年），徙济阳王刘康为山阳王，复置山阳国。王莽时国除。东汉初，山阳郡为刘永所据。建武十五年（39年），封皇子刘荆为山阳公，十七年晋爵为山阳王。永平元年（58年），徙刘荆为广陵王，山阳国除为郡。建安十七年（212年），封皇子刘懿为山阳王。延康元年（220年），魏受禅，山阳国除为郡。西晋泰始元年（265年），以山阳郡置高平国，仍治昌邑县。南北朝宋、北魏置高平郡，移治高平县（县治在今山东省邹城市西南）。隋初郡废。
行政区划.汉朝时下辖二十三县、侯国：