对吐谷浑征战，驻屯琵琶崃。义臣的阵营南接元寿，北连段文振，在覆袁川包围吐谷浑王伏允。612年，第一次远征高句丽，率军进肃慎道，至鸭绿江，与乙支文德战为先锋，一日七胜。后诸军皆败，连座免官。不久复位。613年，第二次远征高句丽，为隋军副将，与宇文述共向平壤。至鸭绿江，爆发杨玄感之乱而返军，检校赵郡太守。向海明乱起，在扶风、安定寇掠，义臣率隋军平乱。614年、第三次远征高句丽时，进位左光禄大夫。河北高士达、张金称乱起，集数万人。炀帝派遣段达讨伐，不能胜利。616年，命义臣率远征高句丽归还的数万兵讨乱，义臣让