智者大师曾于陈光大元年（567）至太建七年（575）居于瓦官寺，并在此创宏禅法，为创立天台宗做了重要的理论准备，因此瓦官寺也被尊为天台宗的祖庭。唐朝时，寺中有维摩诘画像碑。有传建寺之初，顾恺之曾为瓦官寺画维摩诘画像。杜甫曾游历此寺，求维摩图样志。南唐昇元年间，改寺名为升元寺。北宋太平兴国年间，又改为崇胜戒坛。明朝初年瓦官寺废，一半为魏国公徐达族园，一半为骁骑卫仓。明朝中后期，瓦官寺得到复建，又分为上、下两寺。下寺为嘉靖时由积庆庵改建（非原瓦官寺址），上寺为万历十九年（1591）僧圆梓募资所建。上寺后