Anderson gikk under tilnavnet «Ærlige John», og spilte i Major League Baseball fra 1894 til 1908. Han ble solgt og byttet mange ganger i karrieren, og spilte for Brooklyn Grooms, Washington Senators, Milwaukee Brewers, St. Louis Browns, New York Highlanders og Chicago White Sox.