Han var sønn av Christine Moe og John Brynildsen. Faren var skredder i Bergen. Unge John gikk på Tanks videregående skole. Etter examen artium fra Bergen katedralskole i 1870 ble det embetseksamen i 1875 innen språk og historie, før han fra 1876 til 1922 jobbet som lærer og (fra 1890) dosent ved Den Kongelige Norske Søkrigsskole, i dag Sjøkrigsskolen, som lå i Horten årene 1864 til 1940. I 1878 giftet han seg med Benedicte Marsine Krag (1857–1929), som var datter av fransklæreren samme sted, nemlig Hans Krag (1818–81). Året etter, i 1879, utga han sin første bok, . Han var også en aktiv forkjemper for riksmål, og hans samling av riksmålsord fra den norsk-engelske ordbok var grunnlag for Norsk riksmålsordbok som utkom 1937.