授普州刺史。贞观十七年（643年）拜左屯卫大将军，检校北门屯兵，加封镇军大将军。太宗命人于凌烟阁绘制功臣二十四人画像，程知节位列十九。永徽六年，迁左卫大将军。显庆年间（655年－657年），程知节以葱山道行军总管领兵出征西突厥阿史那贺鲁，为唐朝与西突厥第二次战役。由于在恒笃城进行大屠杀，以及错失战机，返回后被免职。没多久，授岐州刺史，持节岐州诸军事。后上书请求辞官养老，高宗允之。麟德二年二月七日（665年2月26日），程知节在怀德里第去世，年七十七岁（虚岁），追赠骠骑大将军、益州大都督，谥号襄，赠绢