来庭县主簿，升监察御史、殿中侍御史、内供奉。当时姚州、巂州的蛮人首领反叛，诏怀古前往招抚。裴怀古赏罚分明，叛军纷纷归降，最终俘虏了叛军首领，安置群蛮三万户，蛮人感恩，为他立碑颂德。恒州鹿泉寺僧净满被其弟子诬告在高楼中用弓箭射一副女人画像，说他在诅咒武则天，大逆不道。武则天派裴怀古前往捉拿诛杀，裴怀古详细询问内情后，将僧净满释放，并上表解释。武则天大怒，经过裴怀古劝谏，才消除怒气。圣历元年（697年），突厥默啜可汗请求和亲。武则天派右豹韬卫大将军阎知微为主要使者，裴怀古监军，陪同淮阳郡王武延秀前往突厥