Han var sønn av presten Carl August Guldberg og Hanne Sophie Bull, og bror til Cato Guldberg, Axel Sophus Guldberg, Cathinka Guldberg, Gustav Guldberg og Ansgar Guldberg.