Piefke lahir di kota Schwerin an der Warthe di Keharyapatihan Posen. Pada tahun 1850-an, ia menjadi "Bandmaster" Resimen Infantri ke-8 di Berlin. Beberapa mars militer yang ia gubah adalah "Preußens Gloria" (""Kejayaan Prusia"", digubah setelah Prusia memenangkan Perang Prancis-Prusia dan menyatukan Jerman), "Düppeler Schanzen-Marsch", dan "Königgrätzer Marsch" (digubah setelah Prusia mengalahkan Austria dalam Pertempuran Königgrätz, 1866). Piefke mengaransemen puisi simfonik Franz Liszt yang berjudul "Tasso" untuk keperluan militer dan juga telah mengaransemen beberapa mars karya Liszt.