Han tilhørte slekten Cappelen og var sønn av Michael von Cappelen (1731–1804) som var kjøpmann i Drammen og gift med Karen Suhr (1738–1795). Michael von Cappelen var født i Skien, flyttet til Drammen og var eldre bror til trelasthandler, sagbrukseier og skipsreder Diderich von Cappelen (1734-1794), Skien. Caspar von Cappelen var fetter av eidsvollsmannen Didrich von Cappelen, Skien, jernverkseier Peder von Cappelen, Drammen, og grosserer og skipsreder Ulrich Fredrich von Cappelen, Porsgrunn.