Filolog og skolemann Hartvig Nissen var hans bror, og statsråd og professor i kirkehistorie Rasmus Tønder Nissen deres fetter. Faren døde året etter at gutten ble født, så Johannes ble satt i pleie hos sin søster og hennes mann, sogneprest Hans Severin Arentz på Skogn.