Rudolf var i sitt første ekteskap gift med en Agiltrud, Hun døde barnløs i februar 1011. Den 28. juni 1011 giftet han seg med Irmingard. Allerede i forlovelsestiden skjenket han henne byen Vienne med borgen Pipet, grevskapene Vienne og Sermorens og mange besittelser mellom Vienne og Genfersjøen.