帝萧衍派他的母舅沙门昙裕大智法师到真腊（今柬埔寨）求得佛舍利带回广州后，便命令广州刺史萧誉建造了这座寺和塔，当时分别称宝庄严寺和舍利塔。相传唐上元二年（675年），初唐四杰之一的王勃来到广州，应宝庄严寺主持之邀，挥毫写下了《广州宝庄严寺舍利塔记》。到唐朝高宗时重修。五代南汉时改为长寿寺，每逢上元节、中秋节，人们都蜂拥到寺里，点灯祈求丰年。到宋太宗时再重修，改名净慧寺。后毁于火灾，塔亦被毁。宋哲宗年间，广州人林修，在原塔基下重建千佛塔，并将佛舍利埋于塔下。北宋元符三年（1110年），苏轼被贬岭南时，从海南北归