社伝によると、貞観元年（860年）に勧請されたとされる。延喜式神名帳には磐城郡七座の一座として小社に列した。古くは現在地から北西1km余りに位置する川上八幡宮の場所に建っていたとされるが、水害が多いため天和2年（1682年）に磐城平藩主内藤義泰によって現在地に遷座したという。元禄11年（1698年）には藩主内藤義孝によって社殿修理が行われ、その後も代々歴代藩主の尊崇により社殿修理が行われた。明治4年（1871年）に郷社に列し、明治7年（1874年）には現社殿を造営した。
太古の昔は檜の枯木が鬱蒼と生い茂っていたが、藤原京造営やその後の平城京遷都や寺院の造営などに際して、瀬田川、木津川を利用した水運による利便性と山中の木々の良質さから田上山のヒノキを数万本伐採して用いたとされている。このため田上山ははげ山となり、雨が降るたびに大量の土砂が瀬田川に流れ込み、大規模な氾濫を繰り返してきたため、田上山の関津狐ヶ谷に谷止を計画し設計したオランダの技術者デ・レーケや、防砂技術の集大成「水理真宝」を著した市川義方、ヒメヤシャブシやアカマツなどを植林し緑山郡長と慕われた松田宗寿など、いろいろな人が田上山の砂防に取り組んできた。この一連の土木事業には地元の人々も参加したが、大正期の地元民の手記には、「砂防工事へとワラジをはいて肩の痛い芝運搬にと、天びん棒の下で目をむいて数年間」という言葉が残されており、当時の作業の過酷さが伝わってくる。江戸時代から現在に至るまで緑化が続けられているが、1992年時点での被植率は61.8%である。1885年（明治18年）、日本最大の隕石である田上隕石（たなかみいんせき）が、発見された。古来、木々の名産地として知られていた田上山ではあるが、それ以外にも明治期には岐阜県恵那地方、福島県石川地方とともに国内の花崗岩鉱物の三大産地の一つとして数えられていたほどである。しかしこの山の花崗岩鉱物の中でも、特に産出量が多い水晶は加工に向いていなかったことから長年放置されており、明治期にはいって外国人商人がその存在を見つけるまでほとんど無価値のものとして扱われていた。明治期に入り、外国人宝石商がこれに目をつけると早速地元民を雇いこれを手当たり次第拾わせ、トパーズとして海外へ輸出したが、この時の山内からの産出分の内、国外への持出総量は明治年間だけでも700kgに及んだとされている。1974年に中沢和雄によって発見された晶洞（中沢晶洞）のなかで、重さ6.2kgの国内最大のトパーズの巨晶が発見された。
長承2年（1133年）4月7日、美作国久米（現在の岡山県久米郡久米南町）の押領使・漆間時国と、母・秦氏君（はたうじのきみ）清刀自との子として生まれる。生誕地は、誕生寺（出家した熊谷直実が建立したとされる）になっている。『四十八巻伝』（勅伝）などによれば、保延7年（1141年）9歳のとき、土地争論に関連し、明石源内武者貞明が父に夜討をしかけて殺害してしまうが、その際の父の遺言によって仇討ちを断念し、菩提寺の院主であった、母方の叔父の僧侶・観覚のもとに引き取られた。その才に気づいた観覚は、出家のための学問をさずけ、また、当時の仏教の最高学府であった比叡山での勉学を勧めた。その後、天養2年（1145年）、比叡山延暦寺に登り、源光に師事した。源光は自分ではこれ以上教えることがないとして、久安3年（1147年）に同じく比叡山の皇円の下で得度し、天台座主行玄を戒師として授戒を受けた。久安6年（1150年）、皇円のもとを辞し、比叡山黒谷別所に移り、叡空を師として修行して戒律を護持する生活を送ることになった。「年少であるのに出離の志をおこすとはまさに法然道理の聖である」と叡空から絶賛され、このとき、18歳で法然房という房号を、源光と叡空から一字ずつとって源空という諱（名前）も授かった。したがって、法然の僧としての正式な名は法然房源空である。法然は「智慧第一の法然房」と称され、保元元年（1156年）には京都東山黒谷を出て、清凉寺（京都市右京区嵯峨）に七日間参篭し、そこに集まる民衆を見て衆生救済について真剣に深く考えた。そして醍醐寺（京都市伏見区醍醐東大路町）、次いで奈良に遊学し、法相宗、三論宗、華厳宗の学僧らと談義した。これに対して、『法然上人伝記』（醍醐寺本）「別伝記」では、観覚に預けられていた法然は15歳になった久安3年（1147年）に、父と師に対して比叡山に登って修業をしたい旨を伝え、その際父から「自分には敵がいるため、もし登山後に敵に討たれたら後世を弔うように」と告げられて送り出された。その後、比叡山の叡空の下で修業中に父が殺害されたことを知ったとされる。また、法然の弟子の弁長が著した『徹選択本願念仏集』（巻上）の中に師・法然の法言として「自分は世人（身内）の死別とはさしたる因縁もなく、法爾法然と道心を発したので師（叡空）から法然の号を授けられた」と聞いたことを記しており、父の死と法然の出家は無関係であるとしている。