Rendulic var med i den Den østerriksk-ungarske hær under første verdenskrig. Etter første verdenskrig studerte han juss ved Universität Wien, hvor han oppnådde tysk doktorgrad (dr.jur.) i faget i 1920. Han gjorde karriere i den østerrikske hær. I 1932 ble han medlem av det østerrikske nazi-partiet. Fra 1934 tjenestegjorde han i den østerrikske utenrikstjenesten som militærattaché i Frankrike og England, med stasjonering i Paris. Men hans medlemskap i det østerrikske nasjonalsosialistiske partiet DNSAP ble ansett som uheldig for en representant for Østerrike.