Caprivi gikk i 1849 inn i hæren, og deltok i krigene mot Østerrike i 1866 og mot Frankrike i 1870. Etter hvert ble han general i infanteriet og stabssjef. Mellom 1883 og 1888 var han sjef for admiralitetet.