মসজিদে কুবা প্রথম নির্মাণ থেকে এ পর্যন্ত কয়েক দফা সংস্কার ও পূণঃনির্মাণ করা হয়। মহানবি (সাঃ) এর পর ইসলামের তৃতীয় খলিফা হযরত উসমান (রাঃ) তাঁর খিলাফতকালে সর্বপ্রথম মসজিদে কুবার সংস্কার ও পূণঃনির্মাণ করেন। এরপর বিভিন্ন সময়ে আরো সাত বার এই মসজিদের পূণঃনির্মাণ ও সংস্কার করা হয়। অনেক পুরোনো ও জীর্ণ হয়ে যাওয়ার পর সর্বশেষ ১৯৮৬ সালে মসজিদটি পূণঃনির্মাণ করা হয়। এই মসজিদ নির্মাণে পুরো মসজিদে এক ধরনের সাদা পাথর ব্যবহার করা হয়।