人于井上建塔（即祖宅塔）以表之。1985年在崇宁殿台明西南角、背面廊檐下发现隋唐时期细绳纹砖数块，可能当时已出现祠庙。金大定十七年（1177）里人王兴重修祖宅塔，按当时解州律学张开谨所撰《汉关大王祖宅塔记》只提及塔而无未提及庙，但明万历年间解州知州魏养蒙认为庙亦为当时所创建，并记载其最初庙在前、塔在后，庙坐南朝北，有大门、仪门、正殿和寝殿各三间，周围环廊四十间。最迟至明成化时庙已存在，成化十二年（1476）、嘉靖二年（1523）和嘉靖九年（1530）由当地村民三次重修，至明代中叶常平关帝庙仍为一座民修庙