Boutwell begynte sin politiske karriere som demokrat og tilhenger av Martin Van Buren. I perioden 1842 til 1844 og fra 1847 til 1850 tjenestegjorde han i Massachusetts House of Representatives. Han gjorde tre mislykkede forsøk på å komme inn på representantenes hus, i 1844, 1846 og i 1848, samt to mislykkede forsøk på å bli guvernør i Massachusetts, i 1849 og 1850. Ett år senere ble han valgt til guvernør for delstaten, et verv han hadde til 1853.