I 1856 publiserte han med hjelp av François Pillon ordboka , forløperen til Petit Larousse. Hovedverket er (1866 – 1876) i 15 bind med supplementsbind i 1878 og 1887. Etter Larousses død i 1875 ferdigstilte nevøen Jules Hollier verket. Larousse søkte å bygge verket på grunnlaget til Diderot og d'Alemberts og med sin klart antiklerikale profil havnet verket på den katolske kirkas liste over forbudte bøker.