Moscheea din Tokyo a fost construită în anul 1938 de către un grup de imigranți bașchiri și tătari veniți din Rusia după Revoluția Bolșevică din 1917. Construcția lăcașului a fost coordonată de către Abdürreșid İbrahim, primul imam din istoria orașului Tokyo, și de politicianul Abdülhay Kurban Ali. În apropiere de moschee a fost construită și o școală primară.