Price fikk noe grunnutdannelse på hjemstedet Hobart og fra 1854 fikk han sin utdannelse ved Scotch College i Melbourne. I desember 1859 fikk han sin militære utdannelse ved East India Military College i Addiscombe i England før han i 1861 ble stasjonert sammen med Madras Infantry i India. Price begynte på sin tyve års militære tjeneste i India med forskjellige regimenter. Han pensjonerte seg fra hæren i 1883 og returnerte til Australia igjen kort tid senere.