汉时属并州刺史部辖；东汉时属于幽州刺史部管辖。户五万六千七百七十一，口二十七万八千七百五十四。下领十八县：桑干县、道人县、当城县、高柳县、马城县、班氏县、延陵县、狋氏县、且如县、平邑县、阳原县、东安阳县、参合县、平舒县、代县、灵丘县、广昌县、卤城县。曹魏、西晋、北魏、北齐、北周沿之，辖区日益缩小。隋文帝时废郡，其属地划入朔州，「代郡」之名从此走入历史。