Heltzen var sønn av berghauptmann Christian Ernst Heltzen og hans hustru Anne Christine von Haxthausen i Trondheim, hvor han vokste opp. Grandonkelen var Michael Heltzen, overberghauptmann og den første norskfødte direktør for Kongsberg Sølvverk. Michael Heltzen grunnla Bergseminaret, som er blitt karakterisert som den første høyere tekniske skole i Europa.