মদিনায় হিজরত করে নবি করিম (সাঃ) সর্বপ্রথম আমর ইবনে আওফের গোত্রপতি কুলসুম ইবনুল হিদমের আতিথ্য গ্রহণ করেন। মহানবি (সাঃ) এখানে ১৪ দিন অবস্থান করেন। এখানে অবস্থানকালে তিনি কুলসুম ইবনুল হিদম (রাঃ) এর খেজুর শুকানোর পতিত জমিতে মসজিদে কুবা তৈরী করেন। মসজিদে কুবা তাকওয়ার উপর প্রতিষ্ঠিত প্রথম মসজিদ। মসজিদে হারাম, মসজিদে নববী এবং মসজিদে আকসার পরই মসজিদে কুবার সম্মান। পবিত্র কুরআনের সুরা তাওবার ১০৮ নং আয়াতে এই মসজিদের কথা উল্লেখ আছে। মহান আল্লাহ তা’য়ালা এরশাদ করেন “যে মসজিদ প্রথম দিন থেকেই প্রতিষ্ঠিত হয়েছে তাকওয়ার উপর (মসজিদে কুবা) -তাই বেশী হকদার যে, তুমি সেখানে সালাত কায়েম করতে দাঁড়াবে। সেখানে এমন লোক আছে, যারা উত্তমরূপে পবিত্রতা অর্জন করতে ভালবাসে। আর আল্লাহ পবিত্রতা অর্জনকারীদের ভালবাসেন।”