炭井在秦统一六国前，即长期为北方少数民族游牧之地。而秦朝建立后属北地郡，汉朝时又属廉县。而后自三国至十六国时期，长期被少数民族占领。北魏时属薄骨律镇，西魏时属灵州普乐郡，北周属怀远郡，至隋朝时期归属灵州怀远县。在宋朝、西夏、元朝分别统治的时期，同属定州。明朝置“平虏（平罗）守御千户所”，当时石炭井地区有多被称之为“上迭里口”（蒙古语）。清朝时期属平罗所，后又置平罗县。民国时期，该地区挖煤者越来越多，故被民间称之为石炭沟，石炭即为煤之意。1941年宁夏建设厅厅长李翰园视察此地时，更名为“石炭井”。1958