Né à Hiram dans l'Ohio, Harry est le fils du président James A. Garfield et de son épouse Lucretia Rudolph Garfield. Son frère James Rudolph Garfield deviendra Secrétaire à l'Intérieur des États-Unis. À l'âge de 17 ans, il assiste avec son frère James à l'assassinat de leur père, par Charles J. Guiteau, à Washington D.C..