五代吴杨溥大和年间（929~935），于庐山之南立星子镇，派兵驻守，因境内有石（即落星墩）浮于水面如星，故得其名。北宋太平兴国七年（982年），设置南康军，治所在今庐山市；元朝至元十四年（1277年），改为南康路；明朝洪武年间改为西宁府、南康府。杨熊祥于1905年升任南康府知府，直至1912年辛亥革命该府建制被废。元、明、清三朝是南康府的治所之所在，曾经是一个州府级的城市。2016年4月，江西省人民政府撤销星子县，设立县级庐山市，九江市庐山区牯岭镇划归庐山市管辖。同时庐山区更名为濂溪区。