ルブリョフとダニールは、大公（ユーリ・ナザロフ）の命令を受けて、ウラジーミルのウスペンスキー大聖堂の壁画を制作していた。しかし、ルブリョフは絵に悩んで仕事が進まない。ともに聖堂で働いていた彫刻家たちは、大公の側近ステパン（ニコライ・グラッベ）のことが気にいらず、大公と反目する大公の弟（ユーリ・ナザロフ、大公と2役）のもとで仕事すると言って聖堂を出て行くが、ステパンに襲われて仕事などできないよう目をえぐられてしまう。このとき、ルブリョフたちがいた聖堂に佯狂の女（イルマ・ラウシュ）が迷い込んでくる。聖堂のなかをさまよう女の姿を見ていたルブリョフは、壁画の新しい発想が浮かび歓喜する。
ルブリョフたちの乗ったボートが川岸につく。その日の夜、ルブリョフは、笑い、叫び、嬌声をあげながら色欲の儀式をあげていた全裸の異教徒たちに出くわす。あやしい光景に心を引かれて集団に近づいていくが、異教徒に捕らえられてはりつけ台に縛られる。そこへ1枚の毛皮を羽織っただけの異教徒の女（ネリー・スネギナ）がやってくる。女は毛皮を脱ぎ、縛られたルブリョフと口づけをかわす。翌朝、ルブリョフたちがボートを出して川を進むころ、岸のうえでは兵士たちが異教徒狩りをしていた。昨晩の女は川に逃げ込み、ルブリョフたちの乗るボートのそばを泳ぎ去って行く。
フェオファンとルブリョフが、それぞれの信仰を語り、イコンの在り方について議論をたたかわせている。ロシア人民の無知は彼ら自身の愚かさのせいだ、人民の神に対する恐れがなければ信仰は成り立たないと主張するフェオファン。一方のルブリョフは、人民はたしかに無知だが、いたずらに怖がらせるのではなく、未来への希望に目覚めさせるイコンを描くべきではないかと主張する。そして、映像はキリストの磔刑を再現する場面に変わり、ルブリョフの語りが重なる。
ルブリョフたちは、モスクワのアンドロニコフ修道院で新しい生活を始めた。ある日、キリールは著名なイコン画家フェオファン・グレク（ニコライ・セルゲーエフ）の工房を訪れて、フェオファンから助手になることの勧誘を受ける。しかしキリールは断り、フェオファン自らアンドロニコフ修道院に赴いて、助手になることを願い出てくれるのであれば受けたいと答える。後日、フェオファンの使者がアンドロニコフ修道院にやってくるが、このときの目当てはルブリョフだった。使者はルブリョフに対して、フェオファンが助手として来てほしいそうだと伝えると、ルブリョフは即座に受諾する。これを聞いたキリールは嫉妬と深い怒りにかられ、修道院での生活を捨てて還俗する。
アンドレイ・ルブリョフ（アナトリー・ソロニーツィン）、ダニール（ニコライ・グリニコ）、キリール（イワン・ラピコフ）の3人の画僧は、長年暮らしたザゴルスクのトローイッツェ・セルギエフ修道院を出て、新天地モスクワを目指していた。一行は道中で大雨を避けるため、通りがかりの小屋に入る。小屋では村人たちが、みじめな貴族のことを笑いの種にしたスコモローフ （ロラン・ブイコフ）の歌と踊りを楽しんでいたが、まもなく兵士たちが乗り込んできてスコモローフを連行する。
熱気球の打上げ準備をする人々と、それを邪魔しようとする人々が入り乱れるなか、気球から垂れたロープに吊るされるような格好で、イエフィム（ニコライ・グラズコフ）が聖堂の屋上から離陸する。イエフィムは、地上にいる人々を見おろしながら高く舞い上がってゆくが、やがて高度を下げて墜落する。墜落後、沼のかたわらで寝そべる馬が映し出される。
本作の舞台は、15世紀初頭のモスクワ大公国である。タタール襲来とルーシ諸公の内乱が続いた動乱期を背景に、ロシアの最も優れたイコン画家アンドレイ・ルブリョフの苦悩と模索を描いた。ルブリョフの生涯をたんにたどるのでなく、その生涯に関する挿話や、中世ロシアの史実を下敷きにした挿話を織りまぜた8つの章と「プロローグ」、「エピローグ」をあわせた全10章を叙述することで物語は進む。「プロローグ」と「エピローグ」を除く8つの章はそれぞれ題名が付けられて年代順に並べられている。また、「プロローグ」から「最後の審判 1408年 夏」が第1部、「襲来 1408年」から「エピローグ」が第2部の2部構成になっており、日本公開時は第1部に「動乱そして沈黙」、第2部に「試練そして復活」と独自の邦題がくわえられた。
1997年、当時の小泉純一郎厚生大臣と厚生省幹部が村上の知らないところで参議院厚生委員会理事と食事を取っていたことに反発。円滑な参議院審議を求める参議院理事のスケジュール管理の立場から、村上への事前通告もなく参議院理事を動かしたことで参議院スケジュール管理に支障を来たしたとして、参議院厚生委員長に対して議事権発動を促し、厚生省幹部の出席を差し止めにした。加藤紘一幹事長ら党執行部はこの事態を打開するために村上を参議院幹事長から更迭しようとするが、村上は参議院の独自性を盾に抵抗。村上更迭という強行案には、党内連立反対派らの反発を刺激を党執行部が恐れ、野中広務幹事長代理から「あなたは実質的に参議院を支配しようとしている。まさか天下を取るつもりじゃないだろうね」と言われるほどであった。党執行部は小泉厚相に対して村上参院幹事長に全面謝罪させることを提案。小泉が村上に謝罪したことで丸く納まった（この事件が2001年に小泉が首相になった時、トップダウン方針と言われながらも参議院の実力者である青木幹雄に一定の配慮を示す原因になったと言われている）。1998年、参議院選挙を取り仕切り、このとき野中広務と公認問題をめぐり対立。選挙で自民党は惨敗し、参院幹事長を辞任。青木幹雄が後を継ぐ。