山下的白下村（今南京金川门外），武德九年（626年），金陵县更名为白下县。当时，此地有一座白下亭，诗人李白曾作诗：小子别金陵，来到白下亭。“有认为白下区的得名于“白下亭”，另一种说法，是来自于南京的别名“白下”（白下城）。五代时期，位于吴国、南唐的金陵城相对安定，今白下区所在的地区也被称为“江南佳丽地，人间帝王州”。1356年，朱元璋占领南京，将政府机构建于今光华门内御道街两侧。南京成为全国的政治中心，城中也形成了多处商业繁华的区域，行政上属南京应天府。1853年，洪秀全建立的太平天国也定南京为首都，成