Han ble 10. mai 1881 gift med Stephanie av Belgia, datteren til Leopold II av Belgia og Marie Henriette av Østerrike. De fikk datteren Elisabeth Marie i 1883. Paret kom dårlig overens. Rudolf smittet sin kone med gonoré, hvilket førte til at hun ble steril. Han fortsatte å ha flere elskerinner. Hun innledet et forhold til en polsk greve.