Alvensleben studiò grammatica all'università di Halle, e dopo gli studi si dedicò per qualche tempo alla carriera militare, servendo come sottotenente durante la Prima coalizione antifrancese del 1793, dove strinse amicizia con il visconte di Chateaubriand. Combatté in Palatinato e nelle Fiandre e nella disfatta di Valmy. Lasciò l'esercito nel 1794 dopo essere stato promosso tenente.