Johannes Brun var sønn av gårdbruker Diderik Brun (1810–1839) og Rebekka Dorthea Ring Olberg (1811–1887). Mellomnavnet fikk han etter farmora Anna Margrethe Finne. På farssiden nedstammer han fra den kjente bergensbiskop Johan Nordahl Brun. Moren havnet etter farens død i 1836 etterhvert i Bergen, der hun i 1850 ble gift med Johan Koren.