Después de la derrota de Sarkozy en las elecciones presidenciales de 2012 y por lo tanto de la salida de Fillon del gobierno; Fillon fue de nuevo candidato a diputado a la Asamblea Nacional francesa, aunque esta vez en lugar de ser postulado por la cuarta circunscripción de Sarthe (a la que representó por más de 30 años) se postuló por la segunda circunscripción de París (la que tiene el electorado más derechista de la capital francesa) y resultó electo en la segunda vuelta de las elecciones legislativas el 17 de junio de 2012.