Sprague nació en Milford (Connecticut) en 1857 y estudió en el instituto "Drury High School" en North Adams (Massachusetts) donde ya destacaba en matemáticas.