免官。不久复位。613年，第二次远征高句丽，为隋军副将，与宇文述共向平壤。至鸭绿江，爆发杨玄感之乱而返军，检校赵郡太守。向海明乱起，在扶风、安定寇掠，义臣率隋军平乱。614年、第三次远征高句丽时，进位左光禄大夫。河北高士达、张金称乱起，集数万人。炀帝派遣段达讨伐，不能胜利。616年，命义臣率远征高句丽归还的数万兵讨乱，义臣让苏定方指挥兵马撃破高士达，斩张金称。又收容降伏的叛军，入豆子䴚，讨俘格谦。炀帝忌惮义臣的威名，命他入朝，河北山东之乱复盛。义臣因功进位光禄大夫，任礼部尚书。不久，在任上去世。