Son grand-père était médecin et maître de poste à Saint-Aubin. Son père, ruiné par l'invasion de 1814, était mort prématurément à 35 ans, laissant 5 enfants, dont 4 garçons. Joseph Émile, le dernier de ces 4 garçons, fit de bonnes études au lycée de Nancy (Meurthe-et-Moselle) et, à peine âgé de 18 ans, se présenta en 1839 à l'école de Saint Cyr. Deux ans après, il en sortait à la tête de sa promotion et fut admis par voie de concours à l'école d'État-major.