五月，复授保大军节度使兼中书令。六年（960年）后周恭帝嗣位，八月，武行德进封宋国公。北宋初，加中书令，进封韩国公，再授忠武军节度使，改封魏国公。干德二年（964年）冬，移镇安远军节度使，加开府仪同三司。开宝二年（969年）十月，宋太祖在后苑宴请凤翔节度使王彦超及武行德等节度使，酒酣，从容说他们都是国家宿将，久在藩镇，事务繁忙，不符合自己优待贤才的意图，暗示他们放弃节度使之职。王彦超立即表示辞职，而武行德等则竞相自陈攻战履历艰苦，宋太祖说：“这是异代之事，何足论！”以武行德为太子太傅，当时被宴请的节度使