Rendulic var av kroatisk herkomst. Han var sønn av en oberst i den østerrikske-ungarske hæren, og ble i 1907 tatt opp ved Theresianische Militärakademie. I august 1910 ble han utnevnt til løytnant.