Heermann ble født i det som i dag er Rudna i Schlesien som den fjerde sønnen i en protestantisk middelklassefamilie. Ingen av hans eldre søsken hadde overlevd lenger enn barndommen, så da Heermann ble svært syk lovte moren i bønn at om han overlevde skulle hun betale slik at han fikk gå på universitet. Han gikk på den lokale skolen i Rudna, og da læreren hans, Johannes Baumann, forlot skolen for å bli prest i byen, tok foreldrene hans han til Wołów hvor han bodde og ble undervist av Jakob Fuchs, en lege og apoteker. På skolen i Wołów ble han også undervist av Georg Gigas, sønenn til Johann Gigas som hadde komponert to salmer som var populære på denne tiden. Etter et år ble Heermann syk igjen, og foreldrene hans tok ham hjem. Etter å ha blitt frisk begynte han på skole i hjembyen Rudna igjen. Der skrev han sitt første dikt hjemme hos læreren sin, Gregorius Fiebing, da han var 17 år.