Våren 1922 begynte han befalsopplæring i , og han fullførte denne i 1926 med spesialisering innenfor radiosignal og kommunikasjon, og tjenestegjorde deretter som radiooffiser med grad som løytnant. I marinen ble han venn av sin overordnete Wilhelm Canaris, senere sjef for Abwehr, blant annet med utgangspunkt i felles interesse for musikk.