Hans far var en fattig gravør, som sendte ham for å studere kunst under den klassisistiske maleren Jacques-Louis David. Men hans interesser gikk i mer litterær retning, og han ble student ved Collège de France. Der skal han snart ha videreutviklet en sterkt kritisk sans ved å rette på gamle oversettelser av gamle greske forfattere, og etterpå sammenligne resultatet med de ferskeste og mest autoritative edisjoner.