Carl Michelsen blev født i København som søn af hofjuveler Anton Michelsen (f. 1. juli 1809 i Odense – d. 14. december 1877 i København) og Ida Johanne Cecilie Margrethe f. Hansen (f. 26. august 1815 d. 13. november 1889). Anton Michelsen, der lærte i Odense, kom 1830 til København, hvor han bl.a. arbejdede hos J.B. Dalhoff, og hvor han efter en udenlandsrejse (1837-40) etablerede sig i 1841. Han fik her en stadig voksende virksomhed, i hvilken det Dalhoffske værksted blev optaget, og han var den første danske guldsmed, der deltog i Verdensudstillingen i Paris 1855. 1848 blev han hofjuveler. Det var hans mening, at hans 2 sønner William og Carl skulle fortsætte hans forretning, den første som teknisk, den anden som merkantil leder. Men da William Michelsen, der var oplært i Paris, døde 1876, gik Virksomheden ved faderens død året efter udelukkende over til Carl Michelsen, der 1872 var blevet student fra Metropolitanskolen. Under ham blev virksomheden væsentlig udviklet, hvad han bl.a. viste på forskellige udstillinger (Malmø 1881, København 1888, Verdensudstillingen i Chicago 1893, udstillingen i Malmø 1896, i Stockholm 1897 og verdensudstillingen i Paris 1900, hvor han var kommissær, og ved de f.eks. i anledning af kong Christian IX's og dronning Louises guldbryllup (1892) og kronprins Frederiks og kronprinsesse Louises sølvbryllup (1894) med dygtig kunstnerhjælp udførte større arbejder. 1878 var han blevet ordensjuveler og i 1880 hofjuveler.