Henning von Ondarza ble i 1956 ansatt som offiserskadett i Bundeswehr. I 1960-årene ble han utdannet til generalstabsoffiser i Vest-Tyskland og ved Command and General Staff College i Fort Leavenworth i USA. Han tjenestegjorde i forskjellige stabsfunksjoner i Bundeswehr og ved NATO-hovedkvarteret, Supreme Headquarters Allied Powers Europe. I 1977 studerte han ved Royal College of Defence Studies i London, ble forfremmet til oberst og kommanderte til 1979 panserbrigade 20 i Iserlohn. I 1979 ble han forfremmet til brigadegeneral og ble forsvarsattaché ved den vesttyske ambassaden i Washington, D.C. I 1983 ble han forfremmet til generalmajor og ble sjef for 1. panserdivisjon i Hannover.