Arneberg ble gift annen gang ca. 1674 med Cathrine Stub, datter av krigerpresten Kjeld Stub. I dette ekteskapet var Hans og Peder Colbjørnsen blant barna. De var kjent for sin deltagelse i forsvaret av Fredrikshald (Halden) mot Karl XIIs angrep.