Ettersom foreldrene døde tidlig vokste Christian Stub opp hos farbroren, overhoffrettsassessor Niels Stub i Halden og hos farens svoger, sognepresten i Sørum Colbjørn Torstensen. Fra barneårene og gjennom hele livet fikk han økonomisk støtte av sin fetter Peder Colbjørnsen.