Karrierje 1962-ben kezdődött, ekkor forgatta az "Iván gyermekkora" című filmjét, mely rögtön hatalmas nemzetközi sikert aratott: a Velencei Nemzetközi Filmfesztiválon a legjobb rendezésért járó Arany Oroszlán díjat kapta. A "L'Unità" hasábjain Jean-Paul Sartre méltatta filmjét. Az 1966-os "Andrej Rubljov" forgatása közben már érték őt atrocitások a szovjet belügyi hatóságoktól, alkotói szabadságáért élete végéig harcolnia kellett. A forgatás alatt ismerkedett meg Larisza Kizilovával, aki második felesége, és az 1970-ben megszületett Andrej fia édesanyja lett. A filmet csak 1970-ben mutatták be. Ezekben az években forgatókönyveit visszautasították, csak 1972-ben forgathatott újra. A "Solaris" ismét hangos nemzetközi sikert aratott, az 1972-es cannes-i filmfesztivál zsűrije külön nagydíjjal jutalmazta. Az 1974-es "Tükör" című filmje után színházban rendezte meg a "Hamlet"et.