Na zijn medische studies werd hij in 1839 chirurg in het militair hospitaal Val-de-Grâce in Parijs. In 1841 werd hij professor pathologische chirurgie aan de École de médecine et de chirurgie militaire. In 1842 was hij beroepsmatig actief in Frans-Algerije. In 1850 werd hij lid van de Académie de médecine, een instituut waar hij in 1863 voorzitter van werd. Nadat hij in 1853 de lijfarts van keizer Napoleon III was geworden, was hij tijdens de Tweede Italiaanse Onafhankelijkheidsoorlog in 1859 het hoofd van de medische component van het Franse leger. Tijdens de Slag bij Solferino sneuvelde het paard van Larrey. In 1870 was hij weerom het hoofd van de medische component van het leger, dit maal in het kader van de Frans-Duitse Oorlog.