Fakat 1915 senesinde kalan diğer Hristiyanlar Türkiye'nin Ermenistana karşı savaşı'ndan sonra Gürcistan Demokratik Cumhuriyeti veya Ermenistan Demokratik Cumhuriyeti'ne sürgün edildi. Bundan sonra tarihî kilise cemaatsiz kaldı. Rus dini mimarisinin güzel bir örneği olan Kazak Kilisenin soğan kubbeleri 1953 yılında sökülmüş, çan kulesi yıkılmıştır. İbadethane, 1970’li yıllara kadar kapalı spor salonu olarak kullanılmıştır. 1984’te eklenen iki minare ile camiye çevrilmiştir.