Nachdem der Heinrich an der Universität Jena seine Studien beendet und sich dann für den Militärstand vorbereitet hatte, trat er am 28. April 1804 in die kaiserlich österreichische Armee ein, wo er als Unterlieutenant in das Infanterie-Regiment Nr. 47 (Graf Kinsky) kam. Bereits im November 1804 wurde er als Rittmeister in das Husaren-Regiment Blankenstein versetzt, mit welchem er den Feldzug von 1805 nach Deutschland mitmachte