I 1833 gikk han inn i Whigpartiet og var kongressmedlem 1833-1843, men med opphold for 1835-1837. Fillmore var kandidat til guvernør i New York i 1844, men tapte for demokraten Silas Wright.