Nordgaard kom i ung alder til Jacob Aall på Nes jernverk, der han bygde en masovn. Jacob Aall bekostet Nordgaards utdannelse ved reiser og studier i Danmark og Sverige sammen med sin bror Niels Aall på Ulefos. Her ble han ansatt som byggmester og fagmann på tømmer. Han bodde på Ulefoss fra 1804 til han i 1806 hadde han fullført oppføringen av Ulefoss sagbruk (Ulefos Saugbrug).