Pickering ble valgt inn i Senatet fra Massachusetts som medlem av Føderalistpartiet i begynnelsen av mars 1803. Han satt i dette vervet helt til han mistet plassen i 1811. Etter dette ble han valgt inn på Representantenes hus i 1812, hvor han satt frem til begynnelsen av mars 1817. Etter dette trakk han seg tilbake fra politikken og vendte tilbake til hjembyen Salem hvor han arbeidet som bonde frem til sin død den 29. januar 1829 i en alder av 83 år.