I 1935, etter å ha avsluttet sine studier reiste Hans-Jürgen tilbake til Neustrelitz, hvor han sluttet seg til det 48. Infanteri Regiment som løytnant. I desember 1936 ble han forfremmet til løytnant. I hæren ble han gjenforent med sin barndomsvenn, Mertz von Quirnheim og kom i kontakt med andre medlemmer av den tyske motstanden, som Hans Oster.