観応2年（1351年）に奥州を旅した僧宗久は、国分寺はすたれて草堂1宇のほかに何もない、と『都のつと』に記している。この頃、国分寺は荒廃しきっていたと見られている。しかし、後世に政宗が再建した堂宇と奈良時代の国分寺の伽藍との位置関係をみると、現存の仁王門は奈良時代の南大門と同位置、現存の薬師堂は奈良時代の講堂と同位置に建てられており、古代国分寺の伽藍の位置が正確に伝えられていたことがわかる。室町時代の国分寺周辺は国分淡路守ら国分氏が支配した。国分氏は禅宗に傾倒し、禅寺の保寿寺を開かせてそこを自家の牌寺とした。後に国分盛重が陸奥国分寺の衰微を見て、殿堂を建てたが、古代寺院の繁栄には及ばなかった。天正13年（1585年）に、別当坊の宥松を願主とし、藤原政重（国分盛重）らのために、西中坊の紹隆が薬師如来像を納めるための小厨子を造った。中心堂宇がないかあっても貧弱だった時代にも、複数の坊に住まう僧が協同して寺の活動が続けられたと推測される。この小厨子に納められたのが現在の本尊と見られるが、元の本尊がいつどのような事情で失われ、これに代わったのかは明らかでない。この頃までには国分寺は隣にある白山神社を鎮守とし、3月3日の祭礼では流鏑馬を執り行った。この白山神社は、国分寺の境内に創建された。
寺伝では、文治5年（1189年）に奥州合戦の戦場になって焼け落ちたとされるが、その真偽は不明である。鎌倉時代の前期に、不動明王像・毘沙門天像・十二神将像の14体の木像が一具で造立された。地元東北で作られたと考えられる。当時はこれらに釣り合う大きさの薬師如来木像が本尊としてあり、その脇侍として不動明王像・毘沙門天像、さらに囲んで十二神将があったと想像される。また、名取郡にある熊野堂新宮寺に伝わる一切経の1巻（『続高僧伝』巻第5）に、陸奥州国分寺西院に住む生年20歳の僧摩訶衍房が寛喜2年（1230年）2月12日に書写し終えたとする奥書がある。年代不明だが「国分寺禅議房」なる名も別の巻（『続大唐内典録』）に見られ、鎌倉時代に国分寺の僧が新宮寺の事業に加わったことがわかる。史書にはまったく現われないが、十余りの仏像を一斉に制作し、別院を設けるだけの繁栄が、当時の陸奥国分寺にはあったとされる。しかし、鎌倉時代に国分寺を外護したのが誰かは明らかでない。室町時代に陸奥国分寺周辺を支配したのは国分氏で、系図類はそれが鎌倉時代以降のことだとすることにしたがって国分氏とする説もあるが、国分氏の起源をそこまで遡れないとする説もある。
国分寺の寺域の外には、寺と何らかの関わりがある人が竪穴式住居に住んでいた。東に隣接する国分寺東遺跡で、9世紀頃とされる2つの竪穴式住居と「講院」?・「佛」・「東」・「西」の字が書かれた土器が検出されている。貞観11年（869年）5月26日に陸奥国は貞観地震と津波に見舞われた。このときは国分寺も損害を被ったと推定される。また貞観15年（873年）には、陸奥国が俘夷（蝦夷）が不穏な動向を見せているため官吏・民衆が動揺していると報告し、五大菩薩像を造って国分寺に安置して人々を落ち着かせたいと提案したため、12月7日にこれが許可された。その像は現在には伝わっていない。延長5年（927年）成立の『延喜式』によれば、陸奥国分寺には陸奥国の収入である租稲のうち毎年4万束が与えられていた。承平4年（934年）閏1月15日に、七重塔が雷火で失われた。これを伝える『日本紀略』には記されないが、このとき塔の頂点の銅製の飾りが地面に落下し、地中深く逆さまに突き立ったことが、出土した現物によって明らかになった。
コンパクト作用素の重要な性質に (λK + I)u = f の形の線型方程式の解の存在性が有限次元の場合におけると同様に振舞うことを主張するフレドホルムの交代定理がある。これによりフリジェシュ・リース (1918) によるコンパクト作用素のスペクトル理論が従う。これによれば、無限次元バナッハ空間上のコンパクト作用素 K は、0 を含む C の有限部分集合かあるいは集積点のみからなる C の可算無限集合のいずれかをスペクトル集合に持つことが示される。さらにいえば、いずれの場合においてもスペクトル集合の非零元は K の重複度有限なる固有値である（つまり、任意の複素数 λ ≠ 0 について K − λI の核は有限次元）。コンパクト作用素の重要な例に、ゴルディング不等式とラックス-ミルグラムの定理に並ぶソボレフ空間のコンパクト埋め込みがあり、楕円型境界値問題をフレドホルム積分方程式に読み替えることができて、そのときに解の存在性とスペクトル特性はコンパクト作用素の理論から従う。特に、有界領域上の楕円型境界値問題は無限に多くの孤立した固有値を持つ。ひとつの帰結として、剛体は固有値によって与えられる孤立した周波数でのみ振動し、任意に高い振動周波数が常に存在することがわかる。バナッハ空間からそれ自身へのコンパクト作用素全体は、その空間上の有界作用素全体の成す多元環の両側イデアルを成す。実際、ヒルベルト空間上のコンパクト作用素全体は極大イデアルを成し、それによる商多元環（カルキン代数と呼ばれる）は単純環である。