初曰灵洲，为北地郡19县之一，颜师古注：“水中可居曰洲，此地在河之洲，随水上下，未尝沦没，故号灵洲。”东汉时，为灵州县。孝昌二年（526年），北魏升薄骨律镇为灵州。隋朝成立之初，设置灵州，并管辖4郡4县。大业3年（607年）行政区重新划分，灵州改为灵武郡，改隶环州管辖，同时编入鸣沙县等六个下辖县。北宋初年，在灵州黄河以西置灵州河外五镇。2003年5月8日，在宁夏吴忠市古城镇唐墓群发现的《吕氏夫人墓志铭》最终确定，隋唐时灵州在今宁夏回族自治区吴忠市西北。2003年5月8日，宁夏回族自治区吴忠市出土