大屠杀，以及错失战机，返回后被免职。没多久，授岐州刺史，持节岐州诸军事。后上书请求辞官养老，高宗允之。麟德二年二月七日（665年2月26日），程知节在怀德里第去世，年七十七岁（虚岁），追赠骠骑大将军、益州大都督，谥号襄，赠绢布一千匹、米粟一千石，陪葬昭陵。
文艺作品中的程知节(程咬金).在以《说唐》为代表的系列话本及历史演义小说中，程咬金，字知节，小名一郎，使一柄八卦宣花斧。是一名性格直爽、粗中有细的福将，而且特别长寿，活了一百多岁，直至武则天政权垮台。据此改编的戏曲影视中