I andre ekteskap var Johan Altenborg Paus gift med Cathinka Charlotte Christensen (1845–1925), datter av grosserer i Christiania Arne Christensen; to av Cathinkas brødre, lagmann Hans Christian Christensen og grosserer Arne Emil Christensen, var gift med døtre av Haaken C. Mathiesen, Tostrupfamiliens partner i Tostrup & Mathiesen; Johan Altenborg Paus var dermed først svigersønn til den ene eierfamilien i dette firmaet, deretter svoger til den andre eierfamilien. I andre ekteskap var han far til Agnes Paus (f. 1866), Arne Christensen Paus (f. 1867), Sofie Paus (f. 1869), Alette Marie Paus (f. 1871), Cathinka Johanne Paus (f. 1874), Valborg Paus (f. 1878), Christian Lintrup Paus (f. 1882), Olaf Paus (f. 1884), Aagot Paus (f. 1885) og major, bankmann og intendant i Oslo Militære Samfund Alf Paus (f. 1888). Aagot Paus, kalt Agga, var en kjent tennisspiller og var gift med Nobelinstituttets mangeårige overbibliotekar, cand.philol. og legasjonssekretær Olaf Selmer-Anderssen.