Pickering ble uteksaminert fra Harvard College i 1763 og etter dette vendte han tilbake til hjembyen Salem, hvor han begynte å arbeide under John Higginson i byens administrasjon samt registeret for gjerninger i Essex County. Han ble tatt opp som advokat i Massachusetts Bar i 1768, og i 1774 etterfulgte han Higginson. Etter dette ble han valgt til å representere Salem ved Massachusetts General Court.