因病辞职，唐太宗对他的病情极为关注，频频派人慰问，给他寻找名医和治病药物，到贞观四年五月终因病重而去世，年仅四十六。唐太宗对他去世极为痛心，追赠他为司空，徙封莱国公，谥曰成（杜如晦碑载为谥曰诚）。
杜如晦碑.杜如晦碑，唐太宗命虞世南撰写碑文，欧阳询隶书。又称《赠司空杜如晦碑》。贞观四年立于醴泉县昭陵。 着录首见宋赵明诚《金石录目》第五五九。