Schimmelmann giftet seg i 1775 med komtesse Emilie Rantzau. Hun døde av tuberkulose fem år senere i en alder av 28 år. Han giftet seg på nytt i 1782 med Charlotte Schubart.