Pfeffer studerte kjemi og farmasi ved Georg-August-Universität Göttingen, under blant annet professorene Friedrich Wöhler (1800-1882), William Eduard Weber (1804-1891) og Wilhelm Rudolph Fittig (1835-1910). Etterpå fortsatte han sin utdannelse ved universitetet i Marburg og Berlin. I Berlin studerte han under botenikkeren Alexander Braun (1805-1877) og var assistent til Natanael Pringsheim (1823-1894). Senere var han assistent for Julius von Sachs (1832-1897) i Würzburg,