Deretter forlot han verseformen for i stedet å vie seg til det kritiske essay og til romaner. Han skrev studier i følelsesmetafysikk samt litterær kritikk over de av århundrets forfattere som han anså at øvde den sterkeste innflytelsen over samtidens tanke- og følelsesliv (Charles Baudelaire, Ernest Renan, Hippolyte Taine, Gustave Flaubert, Henri Beyle (Stendhal), Alexandre Dumas den yngre, brødrene Goncourt, Leconte de Lisle, George Sand, Henri Frédéric Amiel, Mary Shelley, Ivan Turgenjev med flere). De fleste av disse essayene kom først på trykk i , men etter hvert ble de utgitt samlet i bokform under titlene (1883), (1885) og (2 bind, 1888).