籍河东郡闻喜县（今山西省闻喜县），裴怀古在武则天时期任桂州都督、唐睿宗时任汝州刺史、并州大都督府长史、幽州都督、安东都护，治政有方，被称为良吏。
生平.仪凤二年（677年），朝廷选举贤良，裴怀古上书言政，被唐高宗权授为同州下邽县主簿，不久迁授济州录事参军。以丁忧去职。三年后调选授雍州栎阳县尉，任满转任洛州来庭县主簿，升监察御史、殿中侍御史、内供奉。当时姚州、巂州的蛮人首领反叛，诏怀古前往招抚。裴怀古赏罚分明，叛军纷纷归降，最终俘虏了叛军首领，安置群蛮三万户，蛮人感恩，为他立碑颂德。