En 1981 Fillon es elegido concejal municipal de la Comuna de Sablé-sur-Sarthe; luego sería alcalde de esa misma comuna desde 1983 hasta 2001.