其父裴大同。少年时勤奋好学，为弘文生，精于《左氏春秋》、《汉书》，史称“寡言笑，有奇节”。后明经及第，初仕濮州（山东省鄄城）司仓参军，历官御史、起居舍人，黄门侍郎。唐高宗调露二年（680年）入相为同中书门下三品。永隆二年（681年），迁侍中，掌门下省。唐中宗即位，迁中书令，后来，因中宗欲任命韦皇后父亲韦玄贞为宰相，太后武则天在裴炎支持下废中宗，改立中宗之弟唐睿宗。武承嗣请立武氏七庙，裴炎反对，武后不悦而作罢。嗣圣元年（684年）冬，徐敬业于扬州起兵反武。武则天问策，裴炎主张归政睿宗，武后大怒。监察御史崔