W 1961 reżyser złożył w Mosfilmie konspekt scenariusza do filmu "Andriej Rublow". W rok później podpisano z Tarkowskim kontrakt, zaś w 1963 zatwierdzono scenariusz napisany wspólnie z Andriejem Michałkowem-Konczałowskim. Prace nad filmem ukończono w 1965, w następnym roku zaprezentowano obraz krytyce. Autorskie dzieło spotkało się z oporem cenzury, jego dystrybucja jako nieodpowiedzialnego ideologicznie została wstrzymana. 17 maja 1969 na nocnym seansie w ramach 22. MFF w Cannes po raz pierwszy zaprezentowano film międzynarodowej publiczności. Obraz ten, opowiadający historię Andrieja Rublowa, średniowiecznego twórcy ikon, poruszający ponadczasowe problemy jednostki, stał się przyczyną problemów reżysera z cenzurą. Sposób jego dystrybucji, nawet po jej umożliwieniu w 1971 nie pozwalał na dotarcie filmu do szerokiego grona odbiorców. Trudności piętrzone przez aparat państwowy przed twórcą nie przeszkodziły w docenieniu filmu przez krytykę, która nagrodziła obraz Nagrodą FIPRESCI na 22. MFF w Cannes oraz Nagrodą Francuskiej Krytyki Filmowej dla najlepszego filmu zagranicznego w 1971. Artysta kontynuował współpracę z Aleksandrem Gordonem, współtworzył scenariusz do "Taszkient, miasto chleba" i wystąpił w "Bohaterze Dalekiego Wschodu".