Frelinghuysen gikk inn i politikken i 1849 som medlem av Whig Party, men gikk over til Det republikanske partiet ved presidentvalget i 1860. Han var medlem av USAs senat som senator fra New Jersey i perioden 1867 til 1869 som erstatter av den avdøde senatoren William Wright, og igjen gjennom en full periode etter omvalg fra 1871 til 1877.