Первое упоминание мечети относится к периоду арабского завоевания Согда (начало VIII века). Согласно легенде, после взятия Самарканда войсками Кутыйбы в 712 году арабы пытались затопить городскую крепость (калу), перекрыв плотиной канал Джуи-Арзис. Однако с неба спустилась огромная белая птица, которая разрушила плотину. В ознаменование этого события один из сподвижников Кутейбы Мухаммад ибн Васы построил на месте почитаемого согдийцами зороастрийского храма на южной оконечности Афрасиаба у Железных ворот мечеть Хазрет-Хызра. Мечеть была полностью разрушена в 1220 году во время монгольского завоевания.