Etter mannens død flyttet hun inn hos sin bror Johan Andreas Altenburg i Altenburggården i Skien. Barna Diderich (f. 1790) og Ane Marichen (f. 1791) ble plassert hos slektninger. I 1799 ble også niesen Marichen Altenburg født i Altenburggården, samtidig som brorens svigerfar Cornelius Paus døde der. Johan Andreas Altenburg døde i 1824, og Kristine Cathrine Ploug ble boende hos svigerinnen Hedevig. I 1830 Hedevig Altenburggården over til sin svigersønn Knud Ibsen, og Marichen og Knud flyttet inn med sine barn – herunder Henrik Ibsen. Kristine Cathrine Ploug fulgte med på lasset da neste generasjon overtok Altenburggården. Da Ibsenfamilien måtte selge Altenburggården i 1835 og flyttet til Venstøp fulgte Ploug med dem. Hun døde på Venstøp i 1837, 77 år gammel.