Han var oppkalt etter assessor Reinhold Ziegler i Fredrikshald og sin tipptippoldefar gods- og jernverkseieren Reinhold Ziegler (1677–1729) på Lesja. Han var den yngste av syv søsken. En av brødrene var den norskamerikanske kapteinen Henrik Anker Bjerregaard Ziegler (1831–1885).