到当地意大利贵族的支持，不得不与父亲的军势合流，几乎一无所获。奥托一世后来与意大利领地的继承人阿德莱德成婚。鲁道夫感到自己的地位受到了威胁，为了显示自己的法定继承权，他在萨尔费尔德的皇帝行宫像皇帝本人一样大肆庆祝951年的圣诞节，并与自己的妹夫洛林公爵康拉德结成了同盟。在阿德莱德生下第一个儿子亨利后不久，953年鲁道夫竖起了反旗。尽管士瓦本人拥戴鲁道夫，康拉德却没有得到洛林贵族的拥护；巴伐利亚人也支持鲁道夫，抛弃了他们的领主公爵亨利，然而奥托和亨利还是联手成功镇压了叛乱。954年，鲁道夫被褫夺了公爵爵位