I 1016 oppstod det strid mellom Rudolf og grev Otto-Wilhelm om investituren av erkebiskop av Besançon. Også Rudolfs annet ekteskap var etter fem år barnløst. Dette gjorde at Otto-Wilhelm kunne anta at Rudolf ikke ville få arvinger, og han ville da gjøre krav på tronen. Rudolf understilte seg da Henrik II, som var den nærmeste mannlige slektning av burgunderkongen. I 1006 er det et første belegg for at de to herskerne møttes. Basel ble avstått av Rudolf til Henrik II; dette var nok å betrakte som et pant, en sikring av arverettsfølgen. Rudolf forsøkte derved å mobilisere Henrik II støtte mot de regionale stormenn. I mai 1016 ble i Strassburg Henrik II arvefølgerett bekreftet. Henrik førte deretter et resultatløst felttog mot Otto-Wilhelm. Stormennene underkastet seg deretter Rudolf og bad om tilgivelse for deres opprørskhet.