Han var sønn av den danskfødte presten Rasmus Sundt Christensen Kjerschow (1739–1806) og Benedicte Maria Pedersdatter Hersleb (født 1744). Dattera Caroline Sophie Erasmine Kjerschow ble gift med den bergenske vingrossist Jacob Andreas Michelsen og far til statsminister Christian Michelsen. Peder ble i 1820 gift i Vestre Aker med Johanne Benedicte Collett (1802–1851), dattera til bergråd og direktør ved sølvverksdirektør Christian Ancher Collett. Peder og Johanne var foreldre til politikeren Christian Collett Kjerschow (1821–1889).