Han ble født som det trettende barnet av en bankdirektør ved hoffet, også kalt hoffaktor. Faren var den første jøde som fikk borett i Stuttgart. Pfeiffer gikk i 1857 ut fra Ecole Centrale des Arts et Manufactures i Paris som diplomingeniør i kjemi. Han studerte deretter nasjonaløkonomi og finansvitenskap i Berlin, Heidelberg og Leipzig. Han tok doktograden senest i 1868. På sin dannelsesreise gjennom europeiske land, fikk han erfare den engelske samvirkebevegelsen som gjorde et særlig sterkt inntrykk på ham.