感到难堪，就派人驱逐出迎之人，可是来的人就更多了，可见他受百姓爱戴之深。不久转任使持节都督幽州诸军事、幽州刺史、安东都护、持节镇守经略大使。延和元年（712年），裴怀古回京任左威卫大将军、左羽林军上下。八月，唐玄宗即位，改元先天，十一月三日，裴怀古在长安布政里私第去世，年七十五。赠使持节都督兖州诸军事、兖州刺史。先天二年三月二十二日葬于洛州河阳县岭山之北原。