Auf eigenen Wunsch trat der Adelige 11. November 1806 in die Bayerische Armee ein und begann seine Laufbahn als Hauptmann im damaligen 13. Bayerischen Infanterie-Regiment (später 11.) Mit dieser Einheit nahm er 1807 am Feldzug in Schlesien teil, 1809 an den Kämpfen in Tirol. Dort wurde Zwanziger im Mai 1809, im Gefecht bei Waidring, schwerst verwundet. Erst 1812, im Feldzug gegen Russland, konnte er wieder eingesetzt werden. Hier avancierte er zum Major und erhielt das Ritterkreuz der französischen Ehrenlegion. Auf dem winterlichen Rückzug verlor er durch Erfrierungen mehrere Finger an beiden Händen, weshalb er wiederum für einige Zeit dienstunfähig war. Die Feldzüge 1814 und 1815 machte Heinrich Adolph von Zwanziger in Frankreich mit, man ernannte ihn nacheinander zum Stadtkommandanten von Nancy und Colmar. Schließlich blieb der Offizier bis 1819 als Festungskommandant der alliierten Besatzungstruppen in Bitsch, wo er direkt dem Herzog von Wellington unterstand, der ihn persönlich schätzte. Beim Abzug verlieh ihm König Ludwig XVIII. das Ritterkreuz des französischen Militärverdienstordens.