随父出战，兵困于戚城（今河南濮阳北），竟单骑挟父杀出重围。后周显德四年（957年），周世宗攻南唐寿春（今安徽寿县），敌军刘仁赡筑寨据守，怀德奉命深入敌营侦察，夜渡淮河，清晨兵临寿春城下，抓住一名敌兵，获得敌营情报，甚获世宗赏识。后因拥立赵匡胤称帝，娶燕国长公主为妻，加拜驸马都尉，升殿前副都点检。建隆元年（960年），昭义军节度使李筠起兵叛于上党（长治），太祖令怀德与石守信率兵进讨，北汉刘钧按兵不动，首战长平告捷，又破李筠部于泽州（山西晋城），李筠退守泽州。六月，赵匡胤亲征，李筠自焚而亡。建隆二年（961