寺伝によれば、陸奥国分寺は聖武天皇の詔によって建てられた。創建には行基が関与しており、脇侍の日光菩薩・月光菩薩像は行基が自ら彫ったものである。行基が泊まったところは別当坊として後世に引き継がれた。七堂伽藍を備えた寺の周りには三千の僧坊が連なった。別の伝によれば、創建された天平期に国分寺には十八伽藍も作られた。あわせて七堂大伽藍、十八紺殿などという。
寺は白山神社の神から土地を借りる形で建てられた。あるいは、神社の別当として建てられたともいう。
平安時代末には奥州藤原氏の保護を受け、運慶作の十二神将像が制作された。
伊達政宗による再建は、以前に国分寺の薬師如来が与えた加護への返礼である。『貞山公治家記録』には、国分寺僧侶の説として、政宗が朝鮮に渡った時（文禄・慶長の役）、薬師如来と十二神将が船の中に顕現し、不思議の瑞相を示したのが機縁であったという話を紹介する。また、或る記によるとして、次のような話も載せる。渡海の折に政宗の船に、「中国に渡りたい」と願った国分寺の僧が乗り込んできた。政宗は僧に航海の無事を祈らせて便乗を許した。この僧は帰りの船が出る時にも現れて同乗した。後、政宗が帰国してからこの僧のことを国分寺に尋ねたところ、該当者はいなかった。政宗は「薬師如来が現れて守護してくれたのだ」と得心したという。後に国分寺の僧の依頼で書かれた『奥州国分寺縁起記』、国分寺の僧が書いた『七倶胝仏母准胝観音大士堂蔵修縁起外紀』は、後説を敷衍している。
本尊.
また、近代まで本尊の脇侍として十二神将ならびに不動明王、毘沙門天が内陣の須弥壇上に安置されていた。これらの像は現在、仙台市博物館に寄託されている。
主な行事.
七日堂・修正会.
白山神社祭礼.
寺の伽藍.
古代の国分寺.
創建時の寺院の遺構としては、塔や回廊などの礎石を今も見ることができる。発掘調査からは次のような伽藍配置が判明している。
門をくぐると長方形の回廊があり、回廊の北側中央に金堂が建ち、左右に回廊が接続する。金堂は本尊が置かれた重要な建物である。左右に回廊が接続して中門に通じるのが陸奥国分寺の特徴である。
金堂の右（東）、回廊の外に離れて塔跡があり、文献により七重塔と知られる。七重塔の周りにも回廊がめぐらされていた。