Pierre Waldeck-Rousseaun isä René Waldeck-Rousseau oli ollut vuonna 1848 kansalliskokousedustajana ja toimi myöhemmin Nantesin pormestarina. Waldeck-Rousseau oli alkujaan lahjakkaana ja konservatiivisena pidetty lakimies. Hän järjesti vuonna 1870 paikallisen puolustuksen Saint-Nazairessa, jossa oli juuri aloittanut asianajajana. Vuodesta 1873 hän harjoitti ammattian Rennesissä ja vuodesta 1886 Pariisissa. Waldeck-Rousseau valittiin Ranskan edustajainkamariin vuonna 1879 ja kaksi vuotta myöhemmin hänestä tuli sisäministeri Leon Gambettan hallitukseen. Waldeck-Rousseau oli sisäministeri myös Jules Ferryn hallituksessa 1883–1885. Hänen tuellaan säädettiin 1884 nimellä "Loi Waldeck-Rousseau" tunnettu laki, joka laillisti ammattiliittojen toiminnan tietyin rajoituksin. Hän vetäytyi vuonna 1889 politiikasta omistautuakseen asianajajan uralleen. Hän muun muassa puolusti taitavasti Ferdinand de Lessepsiä ja Gustave Eiffeliä vuonna 1893 Panama-skandaaliin liittyneessä lahjusoikeudenkäynnissä.