Мечеть вперше згадується в період арабського завоювання Согдіани (початок VIII століття). За легендою, після взяття Самарканда військами Кутайби в 712 році араби намагалися затопити міську фортецю, перекривши греблею канал . Однак з неба спустилася величезна біла птиця, яка зруйнувала греблю. На честь цієї події один із сподвижників Кутайби Мухаммад-ібн-Васі побудував на місці шанованого согдійцями зороастрийського храму на південному краю Афрасіаба біля Залізних воріт мечеть Хазрат-Хізр. Проте мечеть була повністю зруйнована в 1220 році під час монгольського завоювання.