贞观初年，一面派唐俭为使说降东突厥，一面派李靖进军。李靖奇袭东突厥，生擒颉利可汗，唐俭于乱军之中逃生，后授民部尚书（参见唐与突厥的战争）。因怠于政事贬官。高宗永徽初年，致仕于家，加特进。显庆元年（656年）病故，年七十八岁，追赠开府仪同三司、并州都督，谥曰襄，陪葬昭陵。
唐俭碑与墓志铭.唐俭碑，原立于唐显庆元年（656年），因原碑断裂，开元二十九年（741年）二月重新刊刻，原存于陕西醴泉县昭陵内的唐俭墓前，1975年移入昭陵博物馆。碑身首高3.60米，下宽1.20米，厚34厘米