Carl de Boor war der Sohn des Hamburger Gymnasiallehrers Carl de Boor (1810–1853) und der Auguste Schwartze (1813–1862). Auguste Schwartze war die Tochter des Hamburger Kämmereischreibers Gerhard Gabriel Schwartze. Nach dem Tod seiner Eltern siedelte er 14-jährig nach Ratzeburg über, wo eine Lehrerfamilie die weitere Erziehung übernahm. 1868 nahm de Boor das Studium der Klassischen Philologie, der Archäologie und Geschichte an der Universität Bonn auf. Am Deutsch-Französischen Krieg 1870/71 nahm er als Freiwilliger teil. Als er in der Schlacht bei Beaune-la-Rolande nach dem Tod aller Offiziere das Kommando übernahm und eine wichtige Stellung einnahm, wurde er hierfür mit dem Eisernen Kreuz ausgezeichnet. Sein Studium setzte er von Herbst 1871 bis Ende 1872 an der Universität Berlin fort, wo er am 15. Januar 1873 zum Dr. phil. promoviert wurde. Während seines Studiums wurde er 1872/73 Mitglied der "Akademischen Liedertafel Berlin" im Sondershäuser Verband. Im Juni 1879 begann er als Volontär bei der Universitätsbibliothek Berlin und wurde 8 Monate später Assistent an der Königlichen Bibliothek in Berlin. Sein wichtigster Lehrer in dieser Zeit, Theodor Mommsen, weckte bei de Boor das Interesse für byzantinische Handschriften, die de Boor zu vergleichen begann. Mommsen riet de Boor auch zur Habilitation. Studienreisen führten de Boor in dieser Zeit nach England (1874), nach Griechenland (1876), nach Italien (1895 und 1898) sowie nach Spanien (1899), wo er in Klosterbibliotheken arbeitete.