Prvotno je bila mošeja v Kazanskem kremlju zgrajena v 16. stoletju. Ime je dobila po Kul Šarifu, ki je bil tam verski učenjak. Kul Šarif je s svojimi številnimi učenci umrl med obrambo Kazana pred ruskimi silami leta 1552. Verjamejo, da so bili v stavbi minareti v obliki kupol in šotorov. Njegova zasnova je bila tradicionalna za Volško Bolgarijo, čeprav bi lahko bili uporabljeni tudi elementi zgodnje renesanse in osmanske arhitekture. Leta 1552 je med obleganjem Kazana mošeji uničil Ivan Grozni.