下的仙童化身为青羊，在此地显灵。乐朋龟《西川青羊宫碑铭》说：“太清仙伯敕青帝之童，化羊于蜀国。”唐朝中和元年（公元881年）黄巢之乱，唐僖宗避难于蜀中，曾将此作为行宫。待他重返长安后，拨款增建，并下令改为今名，五代时一度称为青羊观，后又改回青羊宫。至明朝，唐朝所建殿宇毁于兵灾。现存建筑为清代康熙六至十年（1667-1671）陆续重建。
铜铸青羊.三清殿前有两只铜铸青羊，它们是青羊宫的镇观之宝，左侧为单角青羊，右侧为双角青羊。单角青羊包含了十二生肖的特征，有鼠耳、牛身、虎爪、兔背