君彻与唐高祖李渊为世交。在隋朝以左勋卫起家。参与李渊太原起兵。武德元年（618年），升为中书侍郎。唐初之时，唐俭与永安王李孝基等人被刘武周俘获，狱中从元君实口中得知独孤怀恩要造反。时独孤怀恩驻守蒲州，唐俭遣人揭发独孤怀恩谋反。李世民击破刘武周后，唐俭拜礼部尚书，授天策府长史，封莒国公，被特赐免死罪一次。贞观初年，一面派唐俭为使说降东突厥，一面派李靖进军。李靖奇袭东突厥，生擒颉利可汗，唐俭于乱军之中逃生，后授民部尚书（参见唐与突厥的战争）。因怠于政事贬官。高宗永徽初年，致仕于家，加特进。显庆元年（656年