Bang nació en una familia de la nobleza en la pequeña isla danesa de Als, hijo de un vicario de Jutlandia meridional (familia de Nikolai Frederik Severin Grundtvig), pero la historia familiar estaba salpicada de locura y enfermedad.