秦王李世民，先后击败宋金刚、窦建德、王世充，每阵先登，屡立战功，封宿国公。武德七年，太子李建成与秦王李世民争位期间，程知节被外任为康州刺史，他对秦王说：“大王您的左膀右臂现在被一一斩除，身体还能长久保全吗？知节就算死，也不能离开。”武德九年六月四日玄武门之变，程知节亦参与其中。玄武门之变后，拜太子右卫率，迁右武卫大将军，实封七百户。贞观年间，历任泸州都督、左领军大将军。与长孙无忌等代袭刺史，改封卢国公，授普州刺史。贞观十七年（643年）拜左屯卫大将军，检校北门屯兵，加封镇军大将军。太宗命人于凌烟阁绘制功臣