Монастырь основан царём Иваном Грозным 15 октября 1552 года после взятия города. Строился на том месте, где стояла царская палатка и походная церковь и где были похоронены русские воины, убитые под стенами Казани. В 1559 году разлив Волги подмыл и разрушил монастырские стены, после чего монастырь был перенесён на вершину горы. Монастырь окружён каменной стеной. «Неофициальное» название монастыря — «Зилантов» — имеет отношение к названию горы, на которой, согласно преданию, обитало мифическое существо — крылатый змей Зилант.