Schimmelpfennig blev født i Bromberg i Preussen. Han blev indrulleret i militæret og gjorde tjeneste i såvel det 29. infanteriregiment (von Horn) og 17. infanteriregiment (Freiherr von Sparr), der var stationeret i Köln. Der stiftede han bekendtskab med nogle af de mere radikale tyske politikere. Han var vældig aktiv i Martsrevolutionen i 1848, men blev desillusioneret over den fredstraktat der afsluttede den Første slesvigske krig, (Treårskrigen).