2007-ben Nicolas Sarkozy meghívta François Fillon kormányába a "politikai nyitás" jegyében, de Valls visszautasította az ajánlatot. 2012. május 16-tól belügyminiszter volt a szocialista Jean-Marc Ayrault kormányában. Belügyminiszterként népszerű lett, mivel a tabudöntögetőnek számító és tekintélyelvű személyiségéről ismert politikus keménykezűnek mutatkozott a terrorizmus és a migrációs válság jelenségeinek kezelésében. A 2014-es helyhatósági választásokon elért gyenge szocialista eredmény után 2014. március 31-én François Hollande az Ötödik Francia Köztársaság 21. miniszterelnökévé nevezte ki. Augusztus 25-én Valls bejelentette, hogy a gazdaságpolitikája elleni éles bírálatok miatt a kormánya lemond, ám az államfő újra őt kérte fel kormányfőnek. A következő nap megalakult az új kormány, melynek gazdasági minisztere a 36 éves Emmanuel Macron, Hollande köztársasági elnök korábbi gazdasági tanácsadója lett. Újdonság, hogy az oktatási tárcát most először vezette női miniszter Najat Vallaud-Belkacem személyében.