攻克长安，拥杨侑即位。柴绍进右光禄大夫，封临汾郡公。
唐朝建国以后.618年五月，李渊在长安称帝，建立唐朝，是为唐高祖，改年号为武德。拜柴绍为左翊卫大将军。此后柴绍随秦王李世民参加统一战争。先后平薛举，破宋金刚，败王世充，擒获窦建德，又参与了洛阳之战和虎牢关之战，屡立战功，因此封为霍国公，食邑一千二百户，并转为右骁卫大将军。武德六年（623年）二月，柴绍的妻子平阳公主去世。四月，吐谷浑侵扰芳州，唐芳州刺史房当树逃奔松州。二十一日，吐谷浑军进扰洮、岷 二州。五月初五，岐州刺史柴绍