Sperry ble født i Cincinnatus, New York 12. oktober 1860 til Stephen Decatur Sperry og Mary Burst. Han hadde engelske røtter. Hans familie hadde bodd i det som i dag er de nordvestlige stater i USA siden 1600-tallet, og hans eldste amerikanske forfedre var en engelsk nybygger ved navn Richard Sperry. Hans mor døde i barselseng dagen etter han ble født.