Han var sønn av amtstuefullmektig Peter Christian Abildgaard Høst og hustru Sophie Henriette Schalburg. Han giftet seg i 1867 med Beate Albertine Sporon Fiedler, datter av birkedommer Harald Valdemar Fiedler.