Johan Altenborg Paus var fetter av Henrik Ibsen, som i likhet med faren hadde fornavnene Henrik Johan. Ifølge Johan Kielland Bergwitz skal han ha delt hybel med Henrik Ibsen mens de gikk på Heltbergs studentfabrikk i Christiania i 1850, mens Oskar Mosfjeld og Halvdan Koht opplyser at han fisket sammen med Henrik i Børsesjø; Jørgen Haave har stilt spørsmål ved om han faktisk delte hybel med Henrik. Johan Altenborg Paus var oppkalt etter farens pleiefar Johan Altenburg (Marichen Altenburgs far). Hans far Henrik Johan Paus vokste delvis opp i Altenburggården hos onkelen og tanten. Han var bror av distriktslege Ole Paus, grosserer i Manchester Christopher Paus og kaptein og jernbaneingeniør Tollef Lintrup Paus; to av hans søstre, Sofie Henriette Paus og Nina Paus, var gift med skipsreder Hans Hoell på Søndre Brekke. Søsteren Louise var gift med ordfører i Trondheim Christian Hulbert Hielm, mens søsteren Minda var gift med Karl Houen.