Vuonna 1902 Rouvier valittiin senaattiin ja tuli jälleen valtiovarainministeriksi Émile Combesin hallitukseen. Tammikuussa 1905 hän seurasi Combesia pääministerinä ja jatkoi alkuun myös valtiovarainministerinä. Marokon kriisin yhteydessä Théophile Delcassé pakotettiin eroamaan ulkoministerin paikalta ja Rouvier otti nyt hoitaakseen ulkoministerinsalkun ja neuvotteli sopimuksen Ranskaa painostaneen Saksan kanssa. Hänen hallituksensa kaatui seuraavan vuoden maaliskuussa valtion ja kirkon erottamisesta syntyneeseen kiistaan.