他本人与任雅相率新附众军为其后继，最终使阿史那贺鲁被萧嗣业所俘。任雅相后为兵部尚书，曾伐高句丽，无大功而返。四年（659年）五月，任雅相被授参知政事，成为宰相。七月，因涉嫌谋反被流放的太尉、国舅长孙无忌进一步遭到指控，任雅相和其他宰相李勣、许敬宗、辛茂将、卢承庆奉命调查。其中许敬宗是武后的党羽，也是调查的发起者。长孙无忌最终被迫自杀。龙朔元年（661年）四月，唐高宗派兵东征高句丽，任雅相以兵部尚书、同中书门下三品、乐安县公为浿江道行军总管，与平壤道行军总管苏定方、扶余道行军总管萧嗣业、辽东道行军总管