虎丘为汪洋大海中的小岛，随沧桑变迁而成平畴山丘。故今有“海涌峰”石碑，山寺隔山塘河照墙上有“海涌流辉”四字。春秋时为吴王阖闾的行宫，也是阖闾死后所葬之处。秦始皇东巡时曾到虎丘求随吴王阖闾所埋的宝剑。当时有虎盘踞在坟上，秦始皇以剑击之而不中，误中于石。东晋时，司徒王珣及其弟司空王珉各自在山中营建别墅，咸和二年（ 327 年），后来舍宅为虎丘山寺，仍分两处，称东寺、西寺，刘宋高僧竺道生从北方来此讲经弘法，留下了“生公说法，顽石点头”的佳话。虎丘自南北朝时即建有佛塔，并曾经于南北朝、隋朝和五代末期三次修建佛塔