Brandmän kallades till Walford Road, Sparkbrook, vid 23:30 BST på måndag.
Den kommitté som driver moskén sade att arbetet hade pågått för att ersätta byggnadens golv.
En hundenhet från Leicestershire togs in för att söka igenom området efter eventuella skadade. Den all-klar gavs vid cirka 03:00 BST.
Walford Road var stängd i flera timmar och polisen bad folk att undvika området.
Birmingham stadsfullmäktige sade att den omedelbara faran hade rensats från platsen, inklusive rester av takkonstruktionen och lös murverk.
Abid Shah, som bor mittemot moskén, sa att ljudet av det kollapsande taket var som "en stor lastbil hade kört förbi - det var ingen explosion".
"Jag kom ut och det var damm i luften och spillror var över vägen," sade han.
Usman Khan, som är en del av den kommitté som driver moskén, sade att byggnadsarbetet pågick för att ersätta de ursprungliga trägolven med sådana som är gjorda av betong och stål.
"Några av de äldre väggarna togs ut och stöds av en bur av stål - i den processen taket stöttades av byggnadsställningar [som] i går kväll av någon anledning gled till ena sidan", sade han.
Moskén, som används av omkring 60 tillbedjare, var redan stängd på grund av byggnadsarbetet, tillade han.
Khan sa att moskén kommer att samarbeta med sina entreprenörer och stadsfullmäktige för att se när arbetet kan börja igen.
Birmingham City Council sade att dess byggnadskontroll sköts av ett professionellt serviceföretag, Acivico, som kallades till scenen i går kväll.
En Acivico talesperson sade: "Ett möte äger rum med en rivningsentreprenör för att bedöma den omedelbara faran och för att kartlägga byggnaden - avhjälpande arbete för att göra byggnaden säker kommer då att påbörjas."
West Midlands-polisen sa att kollapsen var "inte en polissak".
Vägen kommer att förbli stängd medan spillrorna rensas, tillade en taleskvinna.
En moské i Birmingham höll på att renoveras när den kollapsade, den har dykt upp.