Parker arbeidet som advokat i Kingston i New York, og satt i New Yorks høyesterett fra 1885 til 1889. Mellom 1889 og 1904 var han justitiarius i United States Court of Appeals i New York. Han ble i denne perioden regnet som en støttespiller for David Bennett Hill, en såkalt .