明城墙为界与玄武湖相邻。此山曾是南朝皇家宫苑乐游苑的所在地，因其形状仿佛覆舟，故亦名覆舟山，后因山南有小九华洞而得现名。小九华山以其山顶的三藏塔和玄奘的顶骨舍利埋葬地而着名。山上有旧寺一间，原名青园寺、法轮寺、龙光寺等，南朝宋时元嘉年间（424—453）道生和尚曾来此寺居住、修行，后因主张顽石也有灵性而被逐出南京，并在苏州虎丘“道生说法、顽石点头”。1942年2月23日，日本人高森隆介在大报恩寺遗址附近修建神社时挖出了玄奘的头骨，日军本想偷运回本国，但消息走漏，迫于舆论压力，只好将其分成数份，其中交给汪精