El 6 de mayo del 2002 Fillon fue nombrado ministro de Asuntos Sociales, Trabajo y Solidaridad en el Gobierno del primer ministro Jean-Pierre Raffarin, permaneciendo en dicha cartera ministerial hasta marzo del 2004.