Horthy var utdannet offiser i marinen og utmerket seg under Balkan-krisen 1908–1909. Som ung mann reiste Horthy mye rundt i verden, og tjenestegjorde som diplomat for det keiserlige og kongelige østerriksk-ungarske dobbeltmonarkiet i Tyrkia og andre land. Fra 1911 til 1913 var han personlig adjutant for keiser Frans Josef, som han hadde stor respekt for, ifølge egne memoarer. Horthy utmerket seg som admiral i dobbeltmonarkiets tjeneste under første verdenskrig, da han slo den italienske marinen flere ganger. Horthy ble i 1914 sjef for panserkrysseren Novara (den mest moderne i dobbelmonarkiets flåte). Han utmerket seg ved det store sjøslaget 14.–15. mai 1917 ved Otranto i Adriaterhavet. I 1918 slo han med hard hånd ned et opprør blant matroser i Cattaro. I 1918 ble han kontreadmiral og sjef for Østerrike-Ungarns flåte. Ved avslutningen av krigen trakk han seg tilbake til sitt gods i byen Kenderes i Jász-Nagykun-Szolnok.