Han vokste opp i Færøyenes dansktalende embedsmannsstand som sønn av Jón Guðmundsson Effersøe og Súsanna Ólavsdóttir. Farsslekten var islandsk og hentet sitt navn fra Örfirisey ved Reykjavík. Faren kom til Tórshavn som regnskapsfører ved den danske monopolhandelen. Moren var av færøysk bondeslekt fra Vestmanna. O.P. Effersøe var farbror til Rasmus, Oliver og Poul Effersøe. Han giftet seg med Margrethe Elisabeth Djurhuus, datter av lagtingsmann Hans Olaus Djurhuus.