擒陈后主，平毁城邑宫苑，建康城就此湮灭。隋朝政府在石头城置蒋州。唐初在此置江宁县，隶属于润州（今镇江市）管辖。至德二年设置升州，后被废除，复为县。唐朝末年，军阀张雄占据上元县，唐昭宗复以上元县为昇州。
五代宋元：金陵的中兴.南唐（937年—975年）在金陵建都，称江宁府。南唐金陵城的范围，南到今中华门，西到今水西门和汉中门，北到今珠江路北门桥，东到大中桥。今天的内桥就是南唐皇宫大内正门前的桥梁，中华路就是当时的御道和城市的中轴线。宋朝以后南京城市就是在南唐金陵城的基础上逐步扩建