Müller oli lähtöisin keskiluokkaisesta kuohuviinitehtailijan perheestä ja kouluttautui kauppiaan uraa varten. Hän liittyi sosiaalidemokraattiseen puolueeseen vuonna 1893 ja ryhtyi vuonna 1899 puolueen lehden toimittajaksi Görlitzissä. Hän kuului vuosina 1903–1906 Görlitzin kaupunginvaltuustoon. Hänet valittiin vuonna 1906 August Bebelin aloitteesta SPD:n puoluetoimikuntaan, jossa hän pysytteli maltillisella keskilinjalla puolueen oikeisto- ja vasemmistosiipien välissä. Müller erikoistui SPD:n kansainvälisiin suhteisiin ja edusti puoluetta monissa sosialististen puolueiden kongresseissa. Hänet lähetettiin heinäkuussa 1914 Ranskaan neuvottelemaan Saksan ja Ranskan sosialistien yhteisestä sodanvastaisesta rintamasta, mutta neuvottelut eivät johtaneet mihinkään ja ensimmäisen maailmansodan puhjettua puolueet asettuivat omien maidensa sodankäynnin tueksi. Myös Müller tuki sodan aikana SPD:n linnarauhapolitiikkaa. Hänet valittiin vuonna 1916 täytevaalissa Saksan valtiopäiville. Vuoden 1918 vallankumouksen yhteydessä hänet valittiin Suur-Berliinin työläis- ja sotilasneuvostojen keskusneuvostoon.