越人遗留下的仙水岩崖墓群已被列为全国重点文物保护单位。东汉中叶，正一道创始人张陵曾在此炼丹，传说“丹成而龙虎现，山因得名”。张陵第四代孙张盛在三国或西晋时到此定居，世代相传，以张天师闻名于世。
道教名山.龙虎山中较早的道教庙宇是唐朝会昌（841年～846年）间所建的真仙观，有确切古碑刻文字记载的道教庙宇则是南唐保大八年（950年）所建的张天师庙。宋代龙虎山道教逐渐兴盛，着名的道观有上清宫、正一观等。元代张天师被封为正一教主，主领三山（龙虎山、茅山、阁皂山）符箓。明朝中叶以后，龙虎山